なぜデタラメな陰謀論を信じる人が激増したのか…世界的歴史学者が指摘するGAFA経営者たちの"重大な過失"
Profile
歴史学者ユヴァル・ノア・ハラリ氏による新著『NEXUS 情報の人類史』が話題だ。ハラリ氏は人工知能（AI）を「人類がこれまでに生み出したうちで最強のテクノロジー」とし、じゅうぶんな知識にもとづく選択がなければ最悪の結果を迎えうると話す。同書より、AIが引き起こした民主社会の分断についての箇所を特別公開する――。（第1回） ※本稿は、ユヴァル・ノア・ハラリ『NEXUS 情報の人類史 下』（柴田裕之訳、河出書房新社）の第8章、第10章から一部抜粋、再構成したものです。
ソーシャルメディア企業が大儲けできたワケ
AIは人類がこれまでに生み出したうちで最強のテクノロジーであり、それは、AIが自ら決定を下したり新しい考えを生み出したりすることができる最初のテクノロジーだからだ。
原子爆弾は誰を攻撃するかを決められないし、新しい爆弾や新しい軍事戦略を発明することもできない。それに対してAIは、特定の標的を攻撃することを自ら決められるし、新しい爆弾や戦略、さらには新しいAIさえ発明することができる。
AIについて知っておかなければならない最も重要な点は、それが私たちの手中にある道具ではなく、自律的な行為主体であることだ。
もちろん、AIが追求するべき目標を定めているのは依然として私たちだ。だが、そこには問題がある。AIは私たちが与えた目標を追求するうちに、予期せぬ下位目標や戦略を採用するかもしれず、それが予想外の、潜在的にきわめて有害な結果につながりかねないのだ。
たとえば近年、フェイスブックやユーチューブやツイッター（現X）のようなソーシャルメディア企業は、自社のAIアルゴリズムに、ユーザーエンゲージメントを増大させるという、一見有益で単純な目標を与えた。ユーザーがソーシャルメディアで費やす時間が増えるほど、これらの企業には多くのお金が転がり込んできた。
この記事を読んだあなたにおすすめ
おすすめの記事
ママパパ向けサービス
