生成AI（人工知能）はさまざまな領域に浸透し、社会のあり方を変えつつある。OpenAIが生成AIの代表であるChatGPTの初版を公開したのが2022年の暮れであるから、本稿執筆時点で3年弱しか経過していない。にもかかわらず、ある調査では両親や配偶者を上回り対話型生成AIが最も「非常に気軽に相談できる相手」として挙げられた。業務から日常の悩み相談まで、生成AIと関わりなく1日を過ごすことが難しいほど、多くの場面に関わり始めている。

 それゆえ、生成AIを題材にした議論が大いに盛り上がったことは読者にも想像していただけるだろう。栗原聡氏を招き開催された本講演は、取り上げられた視点も多岐にわたり、終了時間を迎えても質問やコメントの絶えない会となった。私はオブザーバとして参加し、本稿執筆を任されたが、複数の方から「今日の内容をまとめるのは大変ですね」と心配の声を頂いた。果たしてこのホットな話題をどう整理するのがよいだろうか？「文末にChatGPTで作成した」と書けばオチるだろうか？逆に「ChatGPTを一切用いていない」と高らかに宣言すべきだろうか？AIにできるタスクでも、労力をかけて”手づくり”レポートを執筆することに価値があるかもしれない。どちらの選択肢もボツにした。社会はすでにAIを使う/使わないという単純化された問いではなく、AIをどう使っていくか模索する局面に入っている。人工知能との適切な“距離感”とは、どのようなものか？というのが重要な焦点であろう。

 本講演における栗原氏の動機を簡潔にまとめると、人間の”バディ“ となるようなAI（BuddyAI; ママ）を実現することである。BuddyAIとは利用者が自分専用に保有できる高度に自律的な汎用AIで、各利用者に適応しサポートや助言を行うことが期待される。各利用者に特化した支援ができるという点で、BuddyAIは現在の生成AIよりも”近い”AIと言えるだろう。もちろん現在の生成AIもさまざまな形で助けとはなるのだが、現在のAIは短期的なフィードバック（回答への「いいね」評価など）に基づくチューニングを受けやすいという限界がある。たとえば毎回ビールを飲む利用者のため事前に冷蔵庫で冷やしておくコンシェルジェの気遣いは、良い”おもてなし“だろう。しかし利用者の健康をあずかる者であれば、「たまにはウーロン茶にしておきませんか」と要望から距離を取ることが大切かもしれない。同じように、”バディ”として利用者を支援する上では、時に長期的な視点から利用者に苦言を呈したり要望を拒否するといった出力も重要になるだろう。また利用者の側がそうした苦言を受け入れるだけの信頼が置ける存在にならなくてはならない。

 一方でこうした機能を実現するには、技術的に克服しなければならない課題もある。AIが信頼できるバディとなるには、長期的な状況理解や臨機応変な振る舞いが求められる。いずれもAIが苦手と言われてきたタスクだ。たしかに最近のAIは、黎明期に比べて遥かにこうした能力に長けるのだが、栗原氏は真に信頼できる“バディ”となるには不十分だと評価する。（栗原氏の表現を借りるなら、生死のかかる場面でAIの判断を信頼できるほどにはなっていない。）はたしてAIはどのようにして信頼を獲得できるのか。栗原氏の見立ては、サブサンプション・アーキテクチャと呼ばれる複雑なタスクの分割手法が鍵になるというものだ。それゆえBuddyAI実現に向けた最大の課題は、「利用者と適切な関係を築き、ときに行動の変容を促す」という過程を、どのようなタスクに分解するかであろう。このように本講演は、まだ実現できていない課題を解決するための開発研究という純粋に工学的な企てにも見える。

 しかしながら、栗原氏がBuddyAIの着想に至った経緯まで注意を向けると、本講演が実に多様な人文学的要素と関連することが見えてくる。オブザーバの視点から三つの論点に整理したい。ひとつは、AIを含む情報技術の進展がもたらす“人間らしさ”への危機だ。栗原氏は、インターネットやAIによってもたらされる膨大かつ質の異なる情報により、人々の”熟考力”が低下していくことを強く憂慮する。安易なAIの多用はこうした傾向を助長し、人々が不寛容になったり利己的に振る舞うようにならないだろうか？昨今のSNSで拡散されるデマや選挙戦で飛び交う陰謀論は、こうした傾向の顕れではないだろうか？栗原氏は、AIが時に利用者の要望を拒否したり苦言を呈すことでこうした流れを阻止できないかと期待する。情報技術が人間の思考力や利己性にどう影響しているか、というのはそれ自体人文学的・社会科学的に重要な問いではあるが、BuddyAIはそうした懸念が現実であるとしたらどのような対処が可能かを検討する試みとして理解できるだろう。

 ふたつめは、現在の生成AIを支える基盤モデルがいわゆる”Big Tech”と呼ばれるごく一部の企業によって開発・運用されていることへの社会・倫理的な懸念だ。精度の高い生成AIを開発するには、大量のデータとそれらを高速に処理する計算資源が欠かせない。それゆえ主要な生成AIを開発しているのは、以前からSNSや検索エンジンなどのサービスを通じてデータを蓄積し、かつ高性能な計算装置を大量に保有できる資本力を兼ね備えた組織が中心だ。こうした条件を満たすのは、必然的に米国の一部営利企業に限られてくる。果たしてひとびとの業務・日常生活に深く入り込むようになったインフラが、高々数社の営利企業によってコントロールされている現状は健全と言えるだろうか？栗原氏には、BuddyAIによる苦言や拒否を通じて、ひとびとがBig Techの用意した回答に全面的に依存してしまうような事態は避けられるのではないか、という意図があるように思える。

 関連して三つめとなるのが、イノベーションを通じた日本経済の競争力強化という産業政策的動機だ。新たな情報技術の登場は、一見すると誰にでも参入余地のある競争をもたらすかのようにも思われる。しかしながら、現在の日本がそうした競争の恩恵に預かるとは限らない。Big Techに匹敵するような規模の企業はいまの日本にないからだ。結果として日本は生成AIの“おいしいところ”を享受できず、利用側として彼らのビジネスモデルに依存する構造に甘んじてしまう恐れがある。加えて、多くの日本企業ではDX化が十分に進んでおらず、AIの得意領域が十分に活かせていないという指摘もある。はたして巨大な基盤モデルの開発以外で、AIの革新的な活用方法を見出すことはできないだろうか？BuddyAIのコンセプトは、日本が比較的得意とするAIエージェントの開発に着目して新たな領域を産出するという栗原氏のアイデアに依拠している。実際、当日のタイトルは「イノベーション多産な日本にするためのAI活用とは？」とありBuddyAIはその手段として位置付けることができる。

 このようにBuddyAIの動機を整理すると、「人工知能との適切な距離感」というキーワードからもうひとつの含意が見えてくる。それは、「人工知能“学”との適切な距離感」というメタな視点だ。上で取り上げた論点はそれぞれ、社会心理、技術・情報倫理、経済・経営学などの領域で議論されてきたテーマでもある。人工知能をめぐる議論はあまりにも熱を帯びている。だが、手法や工学としてのテクニカルな人工知能学に終始すると、矢継ぎ早に登場する新技術に目が眩んで重要な視座を失いかねない。それゆえ当日の質疑でも、人間は医師とAIどちらを信頼するか、人間の思考システムの特徴は何か、といった「人間」を主題とする問いが次々に論じられたのはごく自然な帰結であろう。BuddyAIに向けた試みを、単に「人工知能学における技術開発」と見做すのはあまりにも惜しい。

 こうした見立てをヒントに、BuddyAIの実現に向けた技術的課題を再考してみよう。臨床心理学領域におけるカウンセリングでは、社会的に問題とされる行動に対して介入し改善を図る方法が研究されてきた。これら分野で重視されるのが、クライアントの自己決定にまつわる問題である。例えば認知・行動療法では、対話を通じてそのクライアントが有する価値観を明確化することを重視し、本人の価値観を否定することなく他の価値観や価値実現手段の獲得を支援する。日常的に金品を収奪する少年らの動機が「スリルのため」と聞けばいかにも身勝手な印象だが、「スリルを共有することで深まる仲間との絆が好き」「一方で警察に追われるのは面倒という葛藤もある」といった、より解像度の高い価値観を自覚できれば、不法行為をせずとも仲間との時間を大切にする選択肢をみずから選び取れるかもしれない。問題行動を矯正せずに”自覚“を待つかのような方法は一見遠回りに見えるが、これまでの研究では意見の対立や問題の指摘を伴うカウンセリングよりも改善が促進されることが示唆されている。こうした領域で蓄積された知見は、AIと利用者の適切な関係構築に向けたメカニズムを実装する上で、重要な“教師データ”として機能するかもしれない。

 人工知能学的手段から距離をとるという案は、日本のAI業界を盛り上げてきた栗原氏への挑発的な投げかけと受け止められるかもしれない。しかし、決してそんなことはない。人工知能学がさまざまな学術領域と接点をもち、それらの知見を取り込む余地があるのは、AIが社会に広く普及しつつあること、多くの人がAIの可能性に注目していることの証左でもある。AIの有用性が広く認められつつあることで、あらゆる学術領域の問題意識と重なり、各個別領域の知見を転移できる可能性を秘めているのだ。こうして、人工知能学はさまざまな学術領域に接近し始めているとも解釈できる。