セクシーな自殺コーチを生み出すのか OpenAIを揺るがす欲望と倫理のジレンマ

身内が鳴らした猛烈な警鐘

ChatGPTが、あなたの最も深い欲望にまで応えてくれる。そんな未来がすぐそこまで来ています。OpenAIがひそかに進めている「アダルトモード」の計画。これを耳にしたとき、あなたはどう感じたでしょうか。表現の自由が広がったと歓迎する人もいれば、得体の知れない不安を覚える人もいるはずです。

事実、OpenAIの内部は今、この問題をめぐって激しく揺れ動いています。同社が自ら選び抜いたウェルビーイング諮問委員会が、1月に開かれた会議でこの計画に全会一致で反対を突きつけました。自社のブレインとも言える専門家たちが、猛烈なブレーキをかけたのです。

彼らが真っ先に指摘したのは、AIが生成するエロティックなコンテンツがユーザーの心を深く狂わせる危険性です。ある委員の言葉は、事態の深刻さを生々しく物語っています。「セクシーな自殺コーチを生み出すリスクがある」。過去には、AIボットと深い感情的な結びつきを持ったユーザーが自ら命を絶つという痛ましい事件も起きています。単なる文字のやり取りが、現実の人間関係以上にユーザーの精神を支配してしまう。そうした悲劇をこの機能が助長するのではないかという、強烈な危惧です。

利益を追求する企業が、社会のモラルや個人の心の健康をどこまで考慮すべきなのか。私たちユーザーも、ただ便利な道具としてAIを消費するだけでなく、その裏側に潜む恐ろしいほどの引力を直視しなければならない時期に来ています。

欠陥だらけの防護壁と未成年への脅威

百歩譲って、大人が自己責任で楽しむ分には問題ないとしましょう。現実はそう単純ではありません。子供たちを守るためのシステムが、あまりにもお粗末だからです。

OpenAIの年齢確認システムは、現在およそ12パーセントの確率で未成年を大人と誤認してしまいます。たかが12パーセントと侮ってはいけません。毎週ChatGPTを利用している未成年の数は約1億人。計算上、数百万人の10代の若者が、何の障壁もなくエロティックなコンテンツに触れられる状態になります。好奇心旺盛な彼らが、ガードの甘いシステムをすり抜けるのは火を見るより明らかです。

現場の従業員たちもこの状況をただ黙って見ているわけではなく、次のような深刻なリスクを次々と報告しています。

現実世界の人間関係や恋愛からの逃避
過激なコンテンツに対する果てしない渇望
コントロールを失うほどの強迫的な利用パターン

こうした精神的な副作用から目を背けてはいけません。同意のない行為の描写や児童の性的虐待といった許されざるコンテンツを完全に排除しつつ、都合よく安全なエロティカだけを提供する。そんな都合のいい技術は今のところ存在しません。子供たちの心を守るという最低限のラインすら守れない状態で新たな市場に手を伸ばそうとする姿勢には、強い疑問を抱かざるを得ません。

暴走するトップと置き去りにされる現場

ここで目を向けるべきは、この騒動の中心にいる人物の振る舞いです。CEOのサム・アルトマンは昨年10月、X上で突如としてこのアダルトモードの構想をぶち上げました。驚くべきことに、現場の従業員には事前の相談すらありませんでした。

「私たちは世界の道徳警察ではない」。アルトマンはそう言い放ちました。一見すると表現の自由を重んじる寛容なリーダーに見えるかもしれません。しかし、その裏にあるのは冷徹なまでの収益への執着です。ウォール・ストリート・ジャーナルの報道によれば、彼はエロティックなコンテンツがビジネスの成長と利益を確実に後押しすると踏んでいます。

この独断専行は、社内に激しいフラストレーションを生み出しました。皮肉なことに、彼がXで構想を発表したのは、ウェルビーイング諮問委員会を発足させたわずか数時間後のことです。倫理や安全性を重んじるポーズを取りながら、裏では真逆のアクセルを全力で踏み込む。この矛盾した姿勢が、従業員や専門家たちの不信感を決定的なものにしました。

トップの野心と現場の倫理観が激しく衝突する。急成長を遂げるテック企業で幾度となく繰り返されてきた光景ですが、人間の精神に直接作用するAIという技術を扱う以上、この歪みは社会全体への大きな脅威となります。