■Online Journal NAGURICOM
沢栄の「さらばニッポン官僚社会」
第223章 生成AI革命（下）
（2023年7月27日）

小中高向けに指針

チャットGPTなど生成AIの使い方論議が内外で白熱化してきた。人間がどう生成AIをコントロールしたらよいか、という問題が急浮上してきたためだ。
日本とEUは7月、初の「デジタルパートナーシップ閣僚級会合」を東京で開催し、生成AIへの対応を含め連携を強めることで一致。信頼できるAIの実現を目指す、と共同声明で発表した。これに先立ち、主要7カ国（G7）の個人データ保護機関は6月、生成AIの開発者・提供者に対し個人データの収集・利用について本人（データ主体）への情報提供や説明責任の義務を果たすべき、とする声明を出した。文書や画像の著作権や収集する個人情報の流出問題を踏まえたものだ。

一方、文部科学省は7月、生成AIの使い方について国公私立の小中高向けガイドラインを発表、「定期テストで使うのは不適切」とする半面、新たな視点を見つけるための使用を「適切」と判定した。チャットGPTが公開から8カ月も経っていない中、異例の早さでガイドラインを公表したことは、教育現場への影響があまりに大きいためだ。総論は、いい面と悪い面双方があり、注意して活用すべき、という内容。教育現場では慎重論に、「過度な使用は自分で考える思考力を伸ばせない」とする、もっともと思われる主張も目立つ。

フェイク情報を誰もが作れる危険

論議をこのように呼ぶほど、生成AIは衝撃波を各界に広げている。文章や画像、映像を自動的に作り出す生成AIが悪意ある者に使われた場合、その影響は計り知れない。恐ろしい1例は、フェイク情報が出回り、世論や選挙が誤った方向に誘導されてしまうことだ。
ウクライナのゼレンスキー大統領が自軍に降伏を呼びかけたフェイク動画が22年3月、フェイスブックに投稿され、世界中に拡散した。こうしたフェイク情報が生成AIの登場で誰もが簡単に作れるようになる、「ディープフェイク大衆化」の危険性が高まる。フェイクニュースが爆発的に増えることになれば、真偽が分からないままニセや差別、偏向情報に民衆が踊らされる最悪の情報社会に陥る危険すらある。

米ワシントンのペンタゴン（米国防総省）近くで爆発が起きた、と5月にフェイク画像がツィッターで拡散された。楽天グループを含む海外アカウントも次々に追随投稿し、ロシアの国営メディアも報じた。黒煙を上げる画像は、AIを使ったフェイクニュースがますます巧妙化している現実を見せつけた。フェイクニュースの氾濫で、民主主義社会の根幹が揺らぐ。

＜画像＞
ペンタゴン付近の爆発ニセ画像
出所：Twitter


AI制御のキーワード3つ

AIに支配されずに、人間がAIをコントロールして活用する―この本来の関係をどう構築するか。キーワードは「情報の真偽の識別」、「学習の継続」、「関係性の重視」の3つだろう。
［情報の真偽の識別］　フェイク情報に騙されないためには「真実か否か」を見分ける力が必要となる
米ペンタゴン付近の爆発画像では、最初に投稿したとされる「メディアニュース」は過去にも極右の陰謀者と言われる「Qアノン」について繰り返し投稿している。本当かと思える文章や画像に対して真偽を見究める1つの方法は、情報の発信元である。信用のあるメディアとか、研究機関や教育機関、筆者名が明記されたライターが公表したものかどうか、だ。聞いたこともない怪しげな発信元の驚嘆ネットニュースなら、疑ってかかった方がいいだろう。

［学習の継続］　学習の積み重ねが知識を増して人を啓発していくことには異論がない。生成AIに支配されないためには、人間もAI同様に学習して日々、賢明になっていく必要がある。
人間がAIより優れているところは、むろん人間にしかない特性だ。AIの能力が特定のスキルで抜きん出るのに対し、人間は全体的な状況判断、とっさの柔軟な対応、創造的な発想に優れている。
AIは、物事に対する倫理性や公正性の判断についてもフェイク情報を含んで心もとない。人間としてはAIに依存するのではなく、その特定の優秀なAI機能を活用することが肝心、と思われる。AIとは上下の関係でなく、連携・協力関係を築く。

他方、生成AIの強みは、ウェブ情報を基に深層学習によって学習内容を深め、認識力を不断に強化していく仕組みにある。利用者との対話からの学習も加わり、プログラム作成者すらも驚く回答を作成する。
このAIの賢さの源泉となる学習力に着目し、逆に人間がAIから学び取る必要がある。自律的な学習を続け、認識力を深めていくシナリオも、AIに支配されない選択肢だろう。AIをパートナーに、その知見と学習力を取り入れる共存共栄のシナリオが欠かせない。

関係性で学習力強化

［関係性を重視］　生成AIから学ぶべきポイントのもう1つは、AIの学習技術だ。AIが名答を出すのは膨大な学習データを基に高度なアルゴリズムを利用して関係性を抽出し、認識を深めるからだ。ウェブから収集したビッグデータの中から関係性を基に情報を集めて深層学習し、統計と確率の手法を用いて単語やフレーズの正しそうな組み合わせを作り、なめらかに回答を導き出す。
このAIの“奥の手”を人間が取り入れる。知識と知恵のネットワークを「関係性を軸にさらに深める手法」を導入するのである。
これまで多分にランダムで偶然的だった物事の認識の仕方を関係性連結型のAIふうに改める。これが生成AIが人間に示した学習法のメタファーではないか。

イノベーションは、しばしばヒントとなったアイデアや事柄を組み合わせて新しい発見を得ることがきっかけとなる。スティーブ・ジョブズは考えている事柄を関連付けた「連結（Connection）」が発明を導く、とみなした。携帯電話、eメール、ネット検索、音楽、ゲームなどを、1つのハンディなツールにまとめ、簡単に操れないかと考えた。その結晶が2007年に登場したiPhoneだ。これがスマートフォン時代の幕を開ける。
ジョブズの発想のブレークスルーは、関係性型思考がもたらしたといえる。関係性を意識するだけで、認識力は深まっていく。関係性は、自分にとっての関心の程度に表われる。関心が高いほど、その対象の知識を得て、対応の仕方も分かってくる。
この関係性を自己の学習法に導入し、AIに伍して賢くなっていくことが重要だ。