国際人権大学院大学（夜間）の実現をめざす大阪府民会議では毎年様々な切り口で人権をテーマにした「プレ講座」を開講している。2024年度の第４回講座は「生成AIと情報・ビジネス・教育・法制度」をテーマに近畿大学の北口末廣さんに講演していただいた。その様子を報告する。

人間の人間たる所以は「脳」にあり

　今、大リーグで活躍している大谷翔平選手は、ご存じの通り次々と前人未到の成績を上げています。あの大谷選手の体のなかで、最も重要な部分はどこでしょうか。そう問いかけると、ある人は「ボールを的確に捉える目ではないか」と答えました。目が重要なのは間違いありません。しかし目はいわばセンサーで、投げられたボールの球種やスピードを判断し、バットの振り方を体に指示するのは脳です。大谷選手は体を鍛えると同時に脳も鍛えています。脳の働きなくしてあの成績はあり得ません。

　脳を鍛えるには身体を動かすことが重要です。ここ数年読んだ本の中で面白く論理的だと思ったのは、スウェーデンの精神科医、アンデシュ・ハンセンが書いた『運動脳』です。

　人間の脳の重量は全体重の2％ほどです。しかしたった2％の重さの脳がエネルギーの20％を使います。それほど私たちは脳を使って生きているのです。たった2％と言いましたが、それでも他の動物に比べれば人間の脳はとても大きいのです。人間の脳と他の動物との決定的な違いは、脳の大きさと使い方です。これが人間の人間たる所以です。

　ここ数年驚異的な進化を遂げている人工知能、すなわち生成AIも多くのエネルギーを使います。キーワード検索で調べる場合とChatGPTに質問した場合とではどちらのほうがより多くの電力を使うでしょうか。ChatGPTはキーワード検索のおよそ10倍の電力を必要とします。Googleの1年間の電力消費量はアイスランドの年間消費量に匹敵します。今後さらに増えていくのは間違いありません。生成AIについて考えるとき、最大の問題の一つは電力でもあるということを理解しておく必要があります。

驚異的な進化を遂げるGPTのメリットとデメリット

　莫大な電力を使いながら、ChatGPTはどんどん学んでいます。たとえば現在英語の和訳のレベルは、２年前とはまったく違います。今後、翻訳の仕事は激減するでしょう。文章だけではありません。英語のバランスシートをはじめとする財務諸表などの計算書も含めて翻訳します。英語以外の言語の翻訳もします。このスピードで学んでいけば本日のテーマである生成AIと情報・ビジネス・教育・法制度に圧倒的な影響を与えていくことになります。

　私たちが何か学ぶ時には本を読みますが、そこにはグラフや絵や写真などが出てきます。時には動画でも学びます。人間は文章を読み、グラフや絵や写真を見て、脳内で文章とビジュアルを統合して理解します。これをマルチモーダル学習といいます。AIはすでにこうした学習を習得しています。

　良い面だけではありません。私の専門である国際人権法に関して、あるジャンルで「新しい理論が出ていますか」と質問したことがあります。するとChatGPTは「3つの新しい理論ができています」と答え、その内容についても説明しました。しかしどう考えてもそんな理論は出ていません。つまりウソなのです。私の専門分野でなければ間違いなく信用していたでしょう。それほどもっともらしい理屈を述べていました。私が間違いを指摘したところ、ChatGPTは極めて謙虚に「申し訳ありません。間違えました」と反省を述べてきました。

　

　アメリカでは弁護士がChatGPTで調べた判例を証拠として裁判所に出したところ、すべてがウソだったという事件がありました。プロの弁護士を騙せるほどのもっともらしい判例を出せる力をすでに持っているということです。

　現在ChatGPTは日本の主要な国家試験にも合格しています。アメリカでも同様です。なぜこれほど優秀なのでしょうか。ChatGPTは一度学んだことは忘れません。一度覚えたことは一言一句忘れることはなく、人間の質問に対して学んだものを的確に引き出してきます。いっぽう人間はそうはいきません。ですからどんどん頼ってしまうことになります。

AIは人間のバイアスが含まれた自然言語から学び判断する

　今、最大の問題はAIの自動的意思決定です。何かを判断する際、AIに自動的に判断してもらうという流れができています。

　たとえば企業の採用活動において、4人の中から一人の採用をAIが決めると他の3人は採用されません。誰を採用し、誰を採用しないかは人生を大きく左右する重要な問題です。それでは、AIはどのような基準で一人を選ぶのでしょうか。

　AIはビッグデータにもとづくプロファイリングによって判断します。プロファイリングとは、個人や集団のビックデータに基づいて将来の行動等を予測する手法です。ビッグデータは数値的な情報だけではありません。これまでの社会における偏見や個人の感情など、いわばバイアスが含まれています。AIは人間が作り出した自然言語、あるいは日常会話から学んでいるわけで、必ずしも客観的でも公正でもありません。バイアスを含んだAIの判断によって、差別や人権侵害が発生する可能性や重大な権利侵害につながる可能性は十分あり、それを踏まえて対策したり利用したりする必要があります。

　私は情報リテラシーの研究もしています。人間は、自分があまり好きではない人に関する悪い情報が入ってきたら「やっぱり」と思います。逆に好きな人の悪い情報が入ってくると「そんなことはないだろう」と否定したくなります。ウソか本当かを知る前に自分の感情に左右されるのです。これをハロー効果といいます。ハロー効果とは、他者の評価を行なう際に、対象者がもう一つの特徴を根拠にその人の印象を課題にもしくは過小に評価してしまう認知バイアスの一種です。

　こうして人間は間違った情報を吸収し、偏見や差別をもちます。AI自体には偏見や差別はありません。しかしAIは人間が作り出した情報から学びます。つまりAIが出す判断や情報にも人間由来の偏見、差別が入っているのです。

AIの自動意志決定に対する欧米の取り組みは

　EUでは生成AIができる前である2018年にGDPR（一般データ保護規則）という法律を作りました。AIの自動的意思決定に任せず、そこに人間が明確に介在する必要があると書いています。今となっては非常に賢明な判断だったと思います。

　Amazonは過去の大量履歴書データで応募者を5段階で評価するAIシステムを開発しましたが、完成間近で断念しました。AIの人事評価のデータを見るとどう考えても女性が低く評価されていることがわかったからです。女性のデータ自体が少なかったということもあったようです。ただ、私は管理職の多くが男性であり女性への評価が低かったことが原因ではないかと考えています。そのデータをもとにAIがシステムを作ったため、女性差別的なものになったのではないでしょうか。Amazonがこのシステムを採用しなかったのはよかったと思います。

　EUのGDPRでは自動的意思決定によって権利利益を左右される者の権利として以下の3つをあげています。「実行する側の人的介入を得る権利」、「自分の意見を表明する権利」、「決定に異議を唱える権利」です。 　残念ながら日本では現在のところEUのような自動的意思決定に関する規制は行われていません。しかし日本の企業もGDPRと無縁ではいられません。EUの基準を満たしていなければ、ヨーロッパの企業と情報のやり取りやビジネスをスムーズに進められないからです。そのため日本政府は個人情報保護法等を改正しました。

　自動的意思決定についてアメリカの法制度を見てみましょう。アメリカには連邦法としての個人情報保護法はありません。ただしカリフォルニア州などの進んだ州ではヨーロッパ並みの法律があります。たとえば消費者に対してオプトアウト（任意的脱退）の権利を付与しています。ニューヨーク市では2023年7月に新法を制定しました。プロファイリングと人事評価に関して一定の規制をしました。昇進や昇格の判断を自動的意思決定で行う場合、毎年第三者機関によるバイアス監査を受け、その結果の公表義務があります。

AIの「創発」を見据えた技術的対策と社会的ルールを

　科学技術の進歩はいつの時代も社会にプラス面、マイナス面の影響を与えます。AIはその両面が桁違いに大きくなる可能性があります。マイナスの限界点を超えれば、人類にとって取り返しのつかない事態になるでしょう。これまで述べてきたようにAIは人間の知能を驚異的なスピードで代替しています。今後ますます高度な判断や知的労働の多くをAIが代替していくと思われます。トロント大学のジェフリー・ヒントン教授はAIが5年から10年で人を凌駕すると予測しています。

　ですからマイナス面を抑制できる技術と社会的ルールが早急に求められています。具体的には倫理面や法律面等に対する研究を深める必要があります。

　たとえばゲノム（遺伝子）革命の進化に伴ってELSI（エルシー）研究が進化しました。ELSIとは倫理的、法的、社会的問題研究のことです。

　遺伝子研究の結果、将来かかりうる病気がわかるようになりました。遺伝子のことがわかっていくことによって倫理的、法的、社会的な問題が出てきます。そこにも相応のお金をかけているのがアメリカの制度です。遺伝子の研究に100億円かけるのならうち5億円はELSI研究に使うことになっています。

　ChatGPTの登場によってAI研究の面でもこうした研究が重要だと認識され遺伝子研究と同様に５％のＥＬＳＩ研究予算が組まれるようになりました。ELSIにプラスしてAI研究の進化では経済面（エコノミー）、労働面（レイバー）に対する研究も重要です。6つの観点の頭文字をあわせてELELSI研究の進化が急がれています。

　ChatGPTと対話をしているとまるで人間を相手に話しているような気持ちになります。では現実としてAIは人間のような自意識を持つのでしょうか。　可能性はあります。人間は脳が成長することによって脳が巨大化しパラメーターを増やしてきました。パラメーターが増えていくとある時点で脳の力がぐんと高まります。これを「創発」と言います。

　AIは人間の脳の構造を工学的に模倣した機械です。猛スピードで学ぶことによって人間が予測しないような能力が伸びる可能性は十分にあり得ます。AIに創発現象が起こり意思を持ったとき、どのような判断をすることになるのか。どのような人権感覚や倫理観を持たせることができるかが問われています。