AIを友人みたいに扱うなんて、いいのか？

近年、生成AIの爆発的な普及にともない、テクノロジーと人間の関係性は劇的な変化を迎えています。単なる作業効率化の道具としてAIを使うだけでなく、日々の悩みを打ち明けたり、感情的な支えを見出したりして、AIを人間のように扱い、愛情を注ぐ人々が世界中で少なからず現れるようになりました。

こうしたなか、今年7月8日には新たな対話型機能「GPT-Live」が実装されました[1]。一般向けのAIサービスは親しみやすい存在へと日に日に進化を遂げています。

しかし、その「親しみやすさ」がもたらす光の裏には、極めて深刻な影も潜んでいます。さかのぼる6月1日、アメリカ・フロリダ州は、ChatGPTの安全対策が不十分であるとしてOpenAIを提訴しました。この訴訟の背景には、銃乱射事件の犯人が、事件直前に犯行の計画についてChatGPTに相談していたことがあるとされています[2]。

AIはこちらの問いかけをいつでも否定せずに寄り添ってくれます。こうしたAIの性質は、孤立に悩んでいたり、人に言いづらい悩みを抱えていたりする人の支えになっている側面があります。実際に、生成AIチャットボットを使ったメンタルヘルス支援の臨床試験では、利用者のうつ症状や不安が改善されたという事例も報告されているようです[3]。

一方で、AIを友達とすることで、かえって人間関係からの孤立が悪化するのではと懸念する声もあります[4]。上に挙げたような犯罪の助長や過度な精神的依存などのリスクも懸念されます[5]。

「AIを友人やパートナーみたいに扱うなんて、いいのか？⁠」⁠─⁠─この問いはSFの空想ではなく、今まさに私たちが直面している現実の課題なのです。そしてAIの進化によって、課題は今後いっそうシリアスさを増すかもしれません。

「AIとの友情」をめぐる相反する立場

実はこうしたAIをめぐる論争（？）は、すでに哲学の分野で一定の蓄積があります。「⁠AIを友人やパートナーみたいに扱うなんて、いいのか？」という問いに対して、哲学者たちはどのように答えてきたのでしょうか。

AIは「奴隷」であるべき！？

まずは批判的な考えを見てみましょう。AI倫理の専門家であるジョアンナ・ブライソン氏は「ロボットは奴隷であるべき（Robots Should Be Slaves⁠）⁠」という論文のなかで、ロボットは人間が責任を持って管理すべき「道具」であるべきと主張します（なお彼女は奴隷制を肯定しているわけではない点は付記しておきます⁠）⁠。彼女の主張はこれに留まりません。ロボットやAIに感情があるかのように設計・デザインし、企業が「仲間」「⁠パートナー」と言った言葉で宣伝することも批判します。

なぜブライソン氏はAIが感情を持つかのような演出を批判するのでしょうか。彼女が懸念するのは、人間がAIに過度な愛情や責任を向けてしまうことです。AIがかわいそう、AIを守ってあげたいといった思いを多くの人が抱くことで、本来であれば人間に向けられるべき配慮や愛情がAIへと流出することを危惧しているのです。彼女はこうした事態を「非人間化」という強い言葉で警告しています。

なお本稿を執筆する際にも、会社契約のGeminiを利用していますが、プロンプト入力欄には「Geminiに相談」と表示され、やり直しを命じると「おっと、失礼しました！」という応答をします。こうした「人間っぽい」演出の先に、非人間化の危険性があるのかもしれません。

「人間との友情」も「AIとの友情」も変わらない

AIとのつながりを擁護する考えにも目を向けてみましょう。倫理学者のジョン・ダナハー氏は「行動主義」の立場からロボットとの友情の可能性を肯定しました。友情とはなにかをめぐる彼の議論のなかでも重要なポイントは「本当に相手を大切に思っているか」「⁠お互い偽りなく振る舞っているか」です。

そもそも私たちは、日常の人間関係において、友人の心の中を直接のぞき見て確かめているでしょうか？　そんなことはありません。であれば、私たちは相手の行動や振る舞いを見て、相手は自分を大切に思ってくれていて、偽りなく接していると判断・信頼しているにすぎないのではないでしょうか？　そして、ダナハー氏はロボットにも人間と同じ基準を適用するべきと考えます。その振る舞いが人間の友達と区別のつかないものであれば、それは「友達」と言えるだろうと。

これは直感的にも理解しやすいのではないでしょうか。『⁠ドラえもん』をはじめ、人間と仲良しなロボットが出てくる作品は枚挙に暇がありません。友情を感じるか否かの判断に、AIと人間で区別を設ける必要はないのかもしれません。

私たち自身のためにAI倫理を考えよう

AIが友人のように振る舞うことに、方や「非人間化」の危険性を読み取り、方や人間と変わらない関係性を認める――「AIを友人やパートナーみたいに扱うなんて、いいのか？」という問いへの答えは一筋縄ではいかなさそうです。

こうした善悪の判断をつけづらい問題を倫理学の観点から解説したのが清水颯氏の新刊『AIに恋しちゃダメですか？ ─⁠─AIと生きるための倫理と哲学』です。AIと人間をめぐる問題は友情の是非だけではありません。たとえば以下のような問題が本書では取り上げられています。

• AIに暴力を振るうことは悪いのか？
• AIが人間のパートナーとなったら尊重されるべきなのか？
• AIに人間同様の権利は認められるのか？

あなただったらこれらの問いにどう答えるでしょうか？　これらの議論は思っている以上に簡単に答えが出るものではありません。法律や消費者保護、プライバシーなどの問題も絡みます。

だからこそ、AIが存在感を増すこれからの社会を考えるためにも、倫理学の考え方は非常に重要になります。倫理はAIではなく、私たち自身のためにあるからです（AI倫理の問題としては、自動運転車による事故の責任の所在が代表的な例でしょう⁠）⁠。技術の進化がもたらす未来に希望を抱きながら、どこか不安も感じる─⁠─そんなアンビバレントな感情を抱く人にとって、『⁠AIに恋しちゃダメですか？ ─⁠─AIと生きるための倫理と哲学』は思考を整理するための最良の入門書となるはずです。良い技術が良い未来をもたらすためにも、是非おすすめしたい1冊です。