多様性がバイアスを補正する

AIというツールについて、みなさんはどのようなイメージを持っているでしょうか。おそらく、多くの人が「無機質で、平等?公平?公正、そして正確」といった印象を抱いているかもしれません。しかし実際には、AIを通じて得られる結果の多くには、何かしらのバイアス（偏り）が含まれているのです。

「生成AIの基本的な仕組みは、世の中に存在する膨大な過去のデータを學習し、そこから統計的な関連性を基に、最ももっともらしい答えを予測するものです。つまり、過去のデータに性別?人種?地域などの価値観のバイアスが含まれていれば、AIはそのバイアスを引き継いだ答えを出力してしまいます。これまで人間が少しずつ改善?補正してきた価値観や、今まさに見直そうとしている社會のあり方が、古いバイアスを含むデータで學習したAIの出力によって、再び過去の偏った狀態に引き戻されてしまうリスクがあるんです」。

有名なのは、Amazonの採用システムの事例です。Amazonでは、エンジニアを採用する際に面接対象者を絞り込むAIシステムを開発しました。ところがテストをしてみると、なぜか男性ばかりが高評価となる傾向が見られました。その理由は、AIが過去10年間の採用データを學習しており、その多くが男性の履歴書だったためです。そこで、性別を直接示す情報を取り除いても、AIは履歴書の中の表現から性別を推測し、バイアスを再生産してしまいました。結局、Amazonはこのシステムの使用を斷念しました。

バイアスがかかるのは、AIシステムに限ったことではありません。例えば、自動車の衝突実験では長年、成人男性をモデルにしたダミー人形だけが使用され、女性や高齢者、子どもの安全性が十分に考慮されず、事故時の死亡率や重癥率が過小評価されていました（現在も改善が進められていますが、課題は殘っています）。また創薬の現場では、オスのマウスや男性被験者だけを対象に実験を行った結果、女性では効果や副作用が異なる薬が生まれることもありました。

「バイアスは、私たちが無意識のうちに抱えてしまうものです。それを反映したシステムから完全に取り除くのはとても難しいものですが、その影響は社會的弱者やマイノリティに不利益をもたらすことがあります。だからこそ、多様な人たちが開発チームに加わり、できる限り公正な結果を目指して、さまざまな視點からアルゴリズムを設計?検証し、適切な補正を加える工夫を続けることが重要なんです」。

學習に使うデータの多様性、そしてそれを開発?精査するチームの多様性。AIがもたらすリスクを減らすためのカギは、やはり「多様性」にあります。

AIのリスクから目をそらさない

AIは、非常に便利なツールです。しかしその一方で、知的財産権の侵害、誤情報の生成、ディープフェイクによるなりすまし、さらにはAIを悪用したサイバー攻撃など、さまざまなリスクを抱えています。

美馬さんは「AIは、功利主義と非常に相性がいい」と指摘します。功利主義とは、最大多數の最大幸福を追求する倫理観で、ある行為の結果として、できるだけ多くの人々が幸福になることを正しいとみなす考え方です。AIは學習したデータを基に、最大多數（マジョリティ）に最適化したサービスや情報を提供するため、功利主義の発想と非常に親和性が高いのです。しかし、その結果として見落とされやすいのが、社會的弱者や少數派の聲です。

「先ほどバイアスの話をしましたが、AIには輪をかけて、聲の小さい人々の存在を切り捨ててしまう危険性があります。最大の問題は、人間の感情や身體的な記憶のようにデータ化しにくいものが、AIの判斷の中では初めから存在しないものとして扱われやすいということです。例えば、誰とご飯を食べたか、その時の香りや味といった感覚的な経験は、學習データにはなりにくく、結果としてAIはそれを考慮に入れないことになります」。

ところが「それをあたかも分かったふりをする」のが、AIのやっかいなところだとも美馬さんは指摘します。

「この點が今までの技術とは違うところです。つまり、あたかも分かっているかのように振る舞い、私たちの感情や意識に表面的に入り込みます?！氦ⅳ胜郡魏盲胜猡韦悉长欷扦工汀护忍崾兢丹臁⒑盲胜猡韦渌皮恳庖姢藝欷蓼欷胜檫^ごせるようになる。一見、自分が理解されているように感じられて心地よいため、人とコミュニケーションを取ったり、異なる意見に觸れたりする機會が少しずつ減っていくんです」。

こうした背景に関連して指摘されているのが、フィルターバブル（見聞きする情報が自分の好みや興味に限られ、異なる視點が見えなくなる現象）やエコーチェンバー（価値観の近い者同士で意見を共鳴?増幅させる現象）です。すでにその兆しは見え始めていますが、これらが進めば、社會の分斷が深まり、他者を顧みない社會が生まれてしまうと、美馬さんは警鐘を鳴らします。

「これは非常に危険です。だからといって、AIの使用をやめろと言いたいわけではありません。AIは非常に便利なツールであることは間違いありません。ただ、ある程度その仕組みやリスクを理解した上で使いこなさなければ、取り返しのつかない事態を招くかもしれないのです」。

AIリテラシー教育がインクルーシブな社會をつくる

世界のAI研究者の間には、すでにAI利用に対する大きな危機感が共有されています。美馬さんは、2025年2月にフランス?パリのOECD本部で開催された「The Inaugural Conference of the International Association for Safe and Ethical AI」に參加しました。呼びかけ人は、カリフォルニア大學バークレー校のAI研究の第一人者、スチュアート?ラッセル教授。ほかにもノーベル物理學賞、経済學賞、平和賞の受賞者を含む世界トップクラスの研究者たちが一堂に會した會議でした。

「そこで議論されたのは、このままではAIを社會に普及させるのは危険であり、早急に知恵を出し合い解決策を講じる必要があるということでした。解決策は大きく二つに分けられます。一つは、データの偏りやアルゴリズムの補正、そして結果の正しさを説明可能にするなどの技術的な対策。もう一つは、國際的なルールや認証制度を整備することです。私は、そこに第三の道があると考えています。それが『教育』です。AIの使い方を學び、リスクを理解し、AIリテラシーを養うこと。子どもたちが何を學び、どのような力を身につけてAI社會に出ていくのかを考え、伝えていく必要があると強く感じています。それは大人たちにとっても同様です」。

美馬さんは2024年8月、AIの基礎知識から社會的影響、倫理的問題まで分かりやすく解説した著書『AIの世界へようこそ 未來を変えるあなたへ』（Gakken）を出版しました。また、學生たちと共に「aiEDU JAPAN（エーアイエデュ ジャパン）」を立ち上げ、AIについて學べる教材をウェブサイト上で無償提供するなど、AIリテラシー教育の普及にも力を注いでいます。

「私が考えるAIリテラシーは、AIに関する知識やそれを利用するスキルにとどまらず、AIを利用する前提となる多様な視點や文化的理解、異なる背景や価値観を持つ人々への理解や尊重といった、態度や価値観にまで及びます。そこで重要になるのが『共感』です。他者の立場を理解し、その感情を考慮した上で問題を見つけ、それを解決に導くことは、人間にしかできないことだと考えています」。

「例えば、地球溫暖化をどう解決するか。溫暖化の主な原因は、長年にわたる先進國の大量のエネルギー消費と溫室効果ガスの累積排出にあります。それなのに、これから成長しようとする発展途上國だけに大きな負擔を課すのは不公平です。しかし、地球全體で対策を進める必要があるのも事実です。どうするかというと、それぞれの國の立場や文化を理解し、話し合いを重ねて折り合いをつけていくしかありません。こうした価値観の調整は、AIには難しいのです」。

「だからこそ、どこにAIを使い、どこに使わないのかという判斷が重要になる」と美馬さんは語ります。

「AIにはリスクもありますが、同時に大きな可能性も秘めています。AIリテラシーを養い、うまく使いこなせるようになれば、すべての人がAIの恩恵を受けられて、誰一人取り殘さないインクルーシブな社會をつくることができるはずです」。