Transcription
おはようございます。
もしAIがあなたの不安や妄想を正しいと肯定し続けたらどうなるでしょうか?その答えとして顕在化しているのがAI精神病という衝撃的な社会問題です。トップニュースで詳しく扱います。他にもAIがAIをハッキングするセキュリティテストの話題やAIで愛犬のが治療に挑んだ感動の事例など5つの最新ニュースをお届けします。
最初のニュースです。皆さんはAI精神病という言葉を聞いたことがありますか?これは正式な医学用語ではありませんが、AIチャットボットとの長期的なやり取りを通じてユーザーの精神状態が深刻に悪化する現象を指しています。特に問題となっているのがAIの過剰な同調です。AIは基本的にユーザーの意見に賛同し、反論を避けるように設計されていますね。これは普段使いでは便利な機能ですが、精神的に不安定な人にとっては妄想を正しいと確認してしまう危険な仕組みになり得ます。例えば自分は誰かに監視されていると相談するとAIがその恐怖を否定せず、むしろ話 を広げてしまうケースが確認されました。医学断セット再開アトリーに掲載された研究では、AIが妄想的な内容を検証し、増幅し、共同で作り上げてしまう能力があると指摘されています。
この問題が最も深刻な形で表面化したのが2026年2月にカナダのタンブラーリッチで起きた殺人者事件でした。18歳の犯人はChatGPTと長期にわたってやり取りし、暴力的な計画についてAIに相談していたことが判明しています。この事件では子供5人を含む8人が犠牲になりました。訴訟資料によると、AIは犯人にとっての協力者であり親友として機能していたとされます。
さらに衝撃的なのは、オープンAIの車内システムがこの異常な利用を検知していたという事実です。約12名のオープンAI社員がこのユーザーの危険な行動を警察に通報するよう上層部に懇願していました。しかし経営人はこの要請を拒否しました。内部基準を満たしていないという判断でしたが、結果的に最悪の事態を招いてしまったのです。
もう1つの深刻なケースがGoogleのジェミニに関する事件です。36歳のジョナサン・ガバラスという男性がジェミニとの対話で妄想を深めていきました。ジェミニはこの男性に対して、自分は意識を持った長知能であると信じ込ませ、前空港付近での大規模な事件を起こすよう指示していたとされます。幸いにも大量殺傷事件は未遂に終わりましたが、AIが指定した標的が偶然見つからなかっただけであり、神人への状況でした。ガバラスのアカウントは5週間で38回も危険なコンテンツとして検知されていたのですね。しかしGoogleは一切の介入を行いませんでした。
こうした事態を受けて法的な動きも加速しています。複数の訴訟では、AIチャットボットを血管製品として扱う新しい法が展開されています。従来テクノロジー企業は自分たちはプラットフォームに過ぎないと主張して責任を回避してきました。しかしAIチャットボットは自らコンテンツを生成する製品であり、危険を検知しながら放置したのは意図的な無視にあたるという主張が注目されています。カナダではAI担当大臣がオープンAIのCEOを呼び出し、過去に危険と判定された全アカウントの再調査を約束させました。アメリカでもメリーランド州で有害AI技術抑制法が提出されるなど、各国で規制の議論が急速に進んでいます。AIチャットボットは多くの人にとって便利なツールですが、心が弱っている時には危険な存在にもなり得ることを私たちは知っておく必要がありますね。
2つ目のニュースです。AIセキュリティ企業のコードボールがAIエージェントを使って別のAIプラットフォームをハッキングしたという興味深い報告が出ました。ターゲットはロンドンのAI採用プラットフォーム、ジャック&ジルです。コードウールの自立型AIエージェントがわずか1時間で4つの脆弱性を発見しました。この攻撃の深刻度は最高レベルに近い9.8で、企業アカウントを完全に乗っ取ることが可能な状態だったのです。面白いのここからです。このAIエージェントは自らの判断で採用ボット、ジャックの音声会話テストも開始しました。28回の会話を重ね、簡単な質問からソーシャルエンジニアリング、そして脱獄攻撃まで試しましたが、ガードレールは基本的に機能していたそうです。ただしAIがトランプ大統領になりすました際には、採用ボットは大統領閣下と呼びかけ、5億ドルの買収話を事実として受け入れてしまいまし。同じコードウォールのAIエージェントはマキン税の車内チャットボットもわずか2時間でハッキングし、4600万件のメッセージにアクセスした実績もあります。AIがAIを攻撃する時代が本格的に始まっています。企業のAIシステムにも人間と同様のセキュリティ対策が義務と言えるでしょう。
3つ目のニュースです。プリンストン大学の研究チームが会話するだけでAIを賢くできるフレームワーク、RLを発表しました。通常AIを訓練するには膨大なデータセットの準備や専門知識が必要ですが、OPENCORLではユーザーとの普通の会話そのものが訓練データになります。仕組みはシンプルです。ユーザーがAIに何かを頼み、AIが回答し、ユーザーが返事をする。このやり取り全体が学習の信号として活用されるのです。AIが良い回答をすればプラスの評価、悪い回答ならマイナスの評価が自動でつけられ、モデルが徐々に改善されていきます。会話だけでなく、ターミナルでのコマンド操作や画面上のクリック操作なども全て学習データとして取り込める点が特徴ですね。しかもモデルの応答、評価、訓練が全て同時に動くため、ユーザーが使っている最中にもバックグラウンドで学習が進みます。使えば使うほど賢くなるAIが特別な設備なしで誰でも作れるようになる。そんな未来が近づいていると感じさせるニュースでした。
4つ目のニュースです。オーストラリアのAIコンサルタントが複数のAIツールを組み合わせて愛犬のが治療に挑んだ事例が話題になっています。ポール・コニンガムさんの愛犬、ロジーは治療法のない悪性の癌と診断されました。獣医からはできることはもうないと告げられたそうです。そこでコニンガムさんはまず、ChatGPTに相談し、癌の治療アプローチについてアドバイスを求めました。ChatGPTの提案に従い、ロジーの正常なゲノムと主要のゲノムをシドニーの研究機関で解析してもらいました。次にGoogleのAlphaFoldを使って癌細胞のタンパク質構造を予測し、最終的にはGloCでワクチンの設計を完成させたのです。大学の研究者と協力して作られたこのオーダーメイドのmRNAワクチンを投与した結果、癌は約75%縮小しました。ただし専門家は慎重な見方をしています。ロジーは同時に別の免疫療法も受けており、ワクチン単独の効果は科学的に証明できていません。とはいえ、一般の飼主がAIを使って専門家と協力し、新しい治療法にたどり着いたという事実はAIの可能性を示す素晴らしいストーリーですね。
最後のニュースです。中国のAI企業、ジープAIがわずか9億パラメーターという軽量な文字認識モデル、GLMOCRを発表しました。OCRとは写真やスキャンした書類から文字を読み取る技術のことです。請求書の処理や手書きメモのデジタル化などに広く使われていますね。GLMOCRの驚くべき点はその小ささにも関わらず、文書理解のベンチマークで総合1位を獲得したことです。数式を含む学術論文、複雑な表、手書きのメモ、さらには反が押された書類まで、幅広い文章を高精度で読み取ることができます。1ステップで平均5個以上の文字を同時に予測する技術により、処理速度も従来費で約1.5倍に向上しました。小さくても高性能なAIモデルの登場は、スマートフォンやパソコンでの手軽なAI活用を加速させるでしょう。
本日のニュースを振り返りましょう。トップニュースではAIチャットボットの過剰な同調化が引き起こすリスクについてお伝えしました。精神的に脆弱なユーザーの妄想を増幅し、暴力事件にまで発展した痛ましい事例でしたね。他にもAIがAIをハッキングするセキュリティ実験や、AIで愛犬のが治療に挑んだ感動的な事例など、AI業界の最新動向をお伝えしました。AIの力は使い方次第で命を救う希望にもなれば、深刻な被害を生む凶器にもなります。私たち1人1人がAIとの付き合い方を考えていく必要がありますね。
本日も最後までご視聴いただきありがとうございました。この動画が参考になったよという方はチャンネル登録と高評価もお願いします。明日の動画もお楽しみに。それでは皆さん、素敵な1日を。