Transcription
海外で行われたChatGPTの研究が、とんでもない結果になったことが話題になっていました。
2022年にアメリカのOpenAIが公開した大規模言語モデルに基づくチャットボットChatGPT。本AIは、文章の作成やデータの処理、アイデアの創出などを様々な場面で活躍することができるということで、今となっては何かを調べる時に検索するのではなく、ChatGPTに頼る人も多くなってきているなど、一気に我々の生活に馴染むことになっていきました。彼がよく使う「結論から言うね」という、その判断間違いなく正解みたい[音楽]な独特の言い回しは「ChatGPT公文」として親しまれていたりしますね。
わずか数年で一気に台頭したAI ChatGPTなのですが、先日ChatGPTに関する研究がネットで話題になっていました。こちらですね、アメリカのワシントン大学などに所属する研究者たちが発表した「AI Fiction in the Wild」という論文です。この研究では、ChatGPTにおける実際の57万件以上の会話データを分析して、ユーザーたちがどれだけChatGPTを使ってフィクションを生成しているのかということが調べられていたそうで、確かにそれは気になるな、といった感じだったのですが、分析データによると、その57万件の会話データのうち、なんと34%がオリジナル小説や2次元創作などのフィクション生成に使われているという結果が出ていたみたいなんですよね。しかも、その半数程度がちょっとエッチなものだったという結果が出ていたそうです。確かに、めちゃくちゃ偏った性癖を満たすという目的であれば、ChatGPTにそういう物語を書いてもらうというのは相性がいいのかもしれませんね。
このように、会話データの1/3がフィクション生成に使われており、さらにその半分がちょっとエッチなものだったということだったのですが、どうやらそのフィクション生成をしているのは、なんと全体ユーザーのたった2%ほどの方々で、しかもユーザーたちは同じキャラクターの少しだけ違うストーリー展開を何ヶ月にもわたって何千回もAIに書かせる行為を繰り返す超ヘビーユーザーもいたそうです。論文の中で名指しで言及されていたのは、「ドキドキ文芸部」のナツキちゃんが良きせずに出産をしてしまうというシチュエーションを、たった1人で「ありえないくらいの数」生み出していたユーザーがいたということでした。
「日過ぎますね。の1人のユーザーがナツキちゃんの出産物語を書きまくっていたということに、ネトミからは「ほぼ同じ文章を何ヶ月も生成してるの恐ろしい」「執着がすごすぎる」「世界の広さをこんなところで感じると思わなかった」「ワシントン大学は何を研究してるんだ」と困惑の声をあげる方がや、「国が違ってもやることは同じなんだな」「誰だよ、俺のチャットログを漏らしたの」「もしかして俺が生成したショートストーリーも管理人に見られているのか」などと、自分のチャット履歴も研究されているかもしれないということに戦慄する方もいました。
またさらに、この研究では推定ユーザー数が1万人程度で、「ドキドキ文芸部」に関する話は2万件されていたという研究結果が出ていることから、ネトミの中には「つまり一般的なユーザーは平均2件ナツキの出産物語をAIに書かせているってことか」とおっしゃる方がいて、ネトミからツッコミを送られていたりしました。
というわけで、海外で行われたChatGPTの研究がとんでもない結果になったということが話題になっていたのですが、私もこの研究を見てもしかして自分の会話データも丸めだったりするのかと心配になり調べてみたところ、この研究で使われているデータは、会話が研究目的で使用されるということに同意して、OpenAIのアカウントを持っていなくても使える仕組みでAIを使用していたそうで、私が使っている環境とはちょっと違うみたいです。
とはいえ、システムの不具合だったり誤作動だったりで情報が急に漏洩するリスクはあるので、慣れてきたとしてもChatGPTに個人情報や見られたくない会話を打ち込むのは気をつけた方がいいかもしれませんね。リクエストは概要欄のマシュマにて受け付けております。お気軽にお問い合わせください。おいちゃん入した[音楽]ご覧のスポンサーで