Will Ai create a Panoptic Dystopia in Education?

もしあなたが私の前のビデオを見たとしたら、そして見てくれてありがとう、でも見てないなら、大丈夫ですよ、だってこのビデオでそのビデオのいくつかのことを説明します。このビデオはパノプティコンについてです。私はパノプティコンのアイデアに少し取り憑かれています。ええ、嘘は言いません。ただこれが魅力的だと思うんです。福柯が言ったこと、パノプティコンのオリジナルの考案者が言ったこと、その他の人々が言ったこと、それらはすべてこのビデオに入っています。彼らはアカデミアについて素晴らしいことを言っています。監視社会モデルはしばらく前から存在しています。9.11後の愛国者法を良い出発点として使うことができますが、それより少し前から始まっていました。私たちは常に教育における被験者を信用しないことに興味があります。被験者とは、子供、学生、年上の学生など、あらゆる年齢層のことです。私たちは人を信頼することに問題を抱えています。そして、あなたの中の誰かがカンニングしている、だから私たちはみんな同じブラシで扱うことにしよう、と考えるのは簡単です。そして、あなたは読解力、批判的思考など、無限のリストを通して、カンニングしていないことを証明する必要があります。そして、私たちが人を捕まえたり、人を信用しなかったりするシステムを設計すればするほど、皮肉なことに、皮肉にもシステムの被験者は信頼できないものになります。そして、AIの台頭、剽窃する人々、論文や課題全体を記述するためにコンピュータを使う人々を考えると、そのパノプティコンシステム、あるいはパノプティコンレンズはますます拡大するだけでしょう。そして、監視の目が厳しくなるほど、学生は偏執的になり、もう監獄のような教育システムには行かない、と思うようになるでしょう。少し絶望的で、少し偏執的な部分があります。多分心配しすぎかもしれません。でも、何かについて心配しすぎて、それから解決策を見つけ出すのは良いことです。戦略を立てているのです。本質的には、まだ存在しない、あるいは小さなバージョンで存在する問題を発明し、状況を悲観的に見て解決策を考え出そうとしているのです。このビデオでは、教育のパノプティコンに対する解決策はありません。パノプティコンが起こっている方法はいくつかあり、私が参考にしている研究もいくつかあります。しかし、パノプティコンに対する解決策は提示しません。なぜなら、解決策は持続不可能だからです。それは、学術システムが完全に変化し、すべての人を信頼することを要求するでしょう。繰り返しになりますが、パノプティコンを監獄制度から持ってきたので、それはもう刑務所は作らない、みんなを自由に歩き回らせて、彼らが誰かを殺したりしないことを信じよう、と言っているようなものです。そして、それは現在アカデミアが置かれているのと同じシステムです。ChatGPTやその他のプログラムがあることを私たちは知っています。私たちはあなたがそれらを使わないことを信頼し、あなたを捕まえようとするシステムをいくつか導入するでしょうが、それはうまくいくかどうかはわかりません。しかし、最終的には名誉に基づいたシステムです。私たちはあなたに、いいえ、私は私の論文や論文の一部を書くためにChatGPTを使わなかった、と言わせることに依存しています。そして私たちはあなたを捕まえる方法を持っていますが、最終的にはあなたがそれを認める必要があります。ですから、私たちはそれらの会話、質問は非常に良いと思っています。私が言ったように、これは単に、私の仕事で講師と行った会話、または私が接触した学生と行った哲学的な考察のほとんどです。そして、私はこのビデオが、私が持っている質問、そしてあなたも持っているかもしれない質問のための良い議論のポイントを提供すると考えています。ですから、ビデオをお楽しみください。[音楽]

さて、福柯のパノプティコンの概念は、権力が直接的な力ではなく、絶え間ない観察、あるいは少なくとも観察の可能性を通して働くシステムを記述しています。そして、教育の場では、これはいくつかの異なる方法で現れる可能性があります。より悪質なものの1つは、学校のCCTVカメラ、現代の学生運動と活動です。しかし、システムとソフトウェアの観点から、私たちはAI駆動の監督ソフトウェアを持っていて、オンライン試験中の学生を監視し、もちろん、ログイン時間、ページに費やした時間、課題の提出状況を追跡できるLMSシステム（学習管理システム）を持っています。出席と参加を監視するツールも使用されています。これらは生体認証データ、顔認識を使用することができ、子供に関する限り、もちろん非常にタブーとされているトピックです。そしてもちろん、大学院まで、学生の仕事をグローバルデータベースと比較する自動剽窃検出ツールがあります。それがどのように行われるかは、非常に危ういです。他のビデオで述べたように、AI検出はまだ完全ではありません。そして、これらのツールやテクノロジーはすべて、デジタルパノプティコンを作り出し、学生は監視されているという期待を内面化し、その結果、自分の行動をそれに応じて修正します。そして理論的には、彼らはより長く勉強し、特定の行動を避けたり、自己検閲したりします。それは内発的な動機によるのではなく、監視の遍在性の認識によるものです。

パノプティコンはどのように学生の行動を形作るのでしょうか。このような教育システムでは、学生は理論的には自己規制を学ぶようになり、この規制はプラスとマイナスの両方の結果をもたらす可能性があります。肯定的な効果としては、学問の誠実性の向上、出席率と参加率の向上、苦しんでいる学生の早期発見などがあります（これも理論上）。そして理論上、より安全な学校環境です。安全という言葉には、安全の捉え方や子供の権利の捉え方によって、複数の二重引用符が付いています。

否定的な影響も、さまざまな種類の研究によって指摘されています。私たちは絶え間ない監視による不安とストレスを抱えています。明らかに、学生と教師の間の信頼の喪失があります。非人格化の感覚、自律性の喪失、創造性の抑制などが挙げられます。監視の恐怖による実験の抑制など、パノプティコンのアイデアにすべてつながっています。私たちは監視されているのでしょうか。誰が私たちを見ているのでしょうか。そこに誰かいるのでしょうか。そういうことです。そして、それは監視の行き過ぎ、そしてもちろん自律性の行き過ぎというアイデアにつながります。

私の研究のためのラテン語を思い出そうとしていますが、古代ローマの詩人からの英語で十分でしょう。「警備員自身を守る者」、あるいは「監視者を監視する者」という言葉の方が有名ですが、それは明らかに、私たちの上位の人々による規制、統制に関連しており、私たちが生きている9.11後の大量監視型社会に繋がってきます。監視者を監視するのは誰か、つまり、学生を監視できるようになるシステムを受け入れると、あなた自身も監視されるようになるのです。そして、それは福柯の理論、つまり監視は決して中立ではなく、制御するほど規律づける、という理論に繋がります。そして、AIの教育における台頭は、そのパノプティコン的なダイナミクスをさらに激化させるでしょう。ProctorExamのようなツールは、AIを使用して、オンライン試験中の目の動き、背景ノイズ、表情を監視します。十分にストレスフルなのに、さらにストレスフルですね。もちろん、Turnitinという有名なGradeScopeは、機械学習を使用して剽窃を検出したり、書き方のパターンを評価したりします。そして、MoodleやBlackboardのようなLMSプラットフォームは、広範囲なユーザーデータを収集して、参加状況やパフォーマンスを分析します。教育用チャットボットやバーチャルアシスタントは、サポートを提供し、ユーザーデータを収集しますが、各学生の詳細な行動プロファイルを生成します。これらのテクノロジーは、データが継続的に収集、分析され、パーソナライズだけでなく、監視と制御にも使用される学習エコシステムを構築します。

教育におけるパノプティコンのこのアイデアは、重要な倫理的な懸念を引き起こします。学生から収集されたデータを誰が管理し、どのように安全に保管されているのでしょうか。同意の観点から、学生はデータ収集の範囲と目的を完全に理解しているのでしょうか。そして、それは公平性の問題を引き起こします。監視技術は、特定の学生グループ、例えば、既に監視されているかもしれない周辺化されたコミュニティに不釣り合いなほど標的を絞ったり、不利にしたりするのでしょうか。アイルランドの観点から見ると、既に厳しい監視下に置かれている周辺化されたグループとして、トラベラー教育に着目するかもしれません。

そしてもちろん、その中で最も重要なのは自律性です。絶え間ない監視が、学生の創造性や探求心、リスクテイクをどの程度制限するのでしょうか。刑務所制度における大きな抑制要因の1つは、リスクテイクです。そして、それは最終的に学習と何の関係があるのでしょうか。私たちは教育者になるのではなく、これがAIによって生成されたものかどうかを突き止めようとする探偵になるのでしょうか。そして、私たちは探偵から監獄の看守になるのです。私たちはただ監視している、あるいはパノプティコンの観点から言えば、誰かが私たちのために監視している、あるいは監視されているという認識です。監視されるのは決して心地よいものではありません。監視されることには心理的な影響があり、そしてそれはすべて、教育以外の分野でも多くの研究があります。そして、この種の統制と監視は、不安とストレスの増加につながります。明らかに、内発的な動機が減少し、表面的な学習だけが残されます。罰則を避けるためだけに十分にやっています。本当に自分の限界を試そうとはしません。許されているかどうか、自分がそれをすることを許されているかどうか、常に安全圏にとどまっているのです。教育システムにおける大きな問題の1つは、犯罪者、あるいは大学を出て「時間の無駄だった」と思う人を作りたくないことです。そして、彼らは教育機関だけでなく、あらゆる種類の政府機関や公共機関に対する信頼を低下させます。したがって、AIを用いた好奇心や創造性は消え、それは単なる練習問題、まるで親が興奮していることほど不人気なものはないのと同じように、教育機関は監視技術が学習空間にどのように統合されているかを、あるいは統合されるべきかどうかを再考する必要があります。ここで紹介した研究の中には、パノプティコン効果を軽減するためのいくつかの代替案がいくつか提案されています。これには、透明性のあるデータポリシー、オプトイン機能、匿名分析、そしてもちろん、制御するのではなく権限を与えるAIツールの設計などが含まれます。そして、罰則ではなくフィードバック、サポート、成長を重視するでしょう。そのような動きがあるのは良いことです。大学は、もはやタブーだとか、違法だとか、禁止するとは言っていません。それはすべて、学生の声をこの教育技術に関する意思決定に組み込むことから来ています。そのようなパノプティコン的な構造によって強化された従来の上意下達型の権力構造に挑戦することは、常に健全だと思います。

大学は、自由と規律の両方の場所として長い間存在してきました。知識が創造される場所ですが、同時に、規範、規則、階層が不可視に機能する場所でもあります。AIと教育の台頭、特に学生が論文や論文、プロジェクトを作成する過程において、これは単なる剽窃検出の問題ではなくなっています。この監視は、学生がどのように書くか、いつ書くか、どのくらいの速さで書くか、そしてどのようなツールを使うか、さらには創造的にどのように使うかをますます監視しています。そして、このビデオの目的は、それがまだ関連性があるかどうか、それが私たちがそれを実行するための唯一の方法かどうかを突き止めることです。AIを禁止することはできません。では、どのように制御し、どのように監視するのでしょうか。24時間体制の警察力（二重引用符）を巻き込む以外にできることは、パノプティコン構造だけです。しかし、それはベナムの監獄の塔、あるいは福柯の規律社会とは少し違います。これは、監視者がもはや人間ではなく機械であり、視線は常に一定であり、一見予測可能である、データ駆動型のアルゴリズムのパノプティコンです。

2000年代初頭には、TurnitinやSafeAssignなどの剽窃検出ソフトウェアが大学で普及し始めましたが、これらのシステムは比較的鈍いツールでした。テキスト間の類似性を検出することはできましたが、テキストがどのように生成されたかを見ることができませんでした。しかし、新しい世代のAIツールは、製品からプロセスへの焦点をシフトさせます。そして突然、学生は大学が提供するAIライティングプラットフォーム内でエッセイを作成する必要があるという新しいシナリオに直面します。これは、キーストローク、一時停止、削除、改訂、そして可能であれば目の動きさえも記録するシステムです。その目的は、彼らが画面から何かを見ていて、そして正確に何を見ているのかを見るためでしょう。そして、各段落の履歴を記録します。入力されたのか、コピーアンドペーストされたのか、生成されたのか、以前のアクティビティなしに突然挿入されたのか。ライティング演習のコンテキストは何でしょうか。この構造全体は、時間の経過とともに各学生のライティングプロファイルを生成するだけです。そして、剽窃検出は時代遅れになるでしょう。盗まれた作品を探すよりも、書き込みをリアルタイムで監視する方が簡単です。したがって、それは最終製品だけでなく、行為全体のパノプティコンになります。そして、社会はパノプティコンになるのです。刑務所に入る必要もありません。犯罪を犯す必要もありません。犯罪はそもそも推定されています。あなたはただ刑期を務めるだけです。

このシナリオでは、学生は、書き込みプロセス全体が見えていると知っています、あるいは少なくとも疑っています。これは、自己検閲などの、パノプティコンの特徴的ないくつかの行動効果をもたらす可能性があります。彼らは知的リスクを取るのを避けるかもしれません。彼らはもはや物議を醸す議論を試みないかもしれません。そして、彼らは急いで終わらせるかもしれません。彼らは何かについて考えるために一時停止しないかもしれません。なぜなら、それは疑わしいと見なされる可能性があるからです。残念ながら、それは、文章がより形式的になり、この世界に存在する可能性のあるAI採点システムが特定のパターンを報酬として与えるため、学生は機械のように書くようになる一種の過剰な適合性につながります。皮肉なことに、学生はChatGPTがそうするように、静的で断片的な資料を作成することになります。皮肉なことに、プラットフォームの外で最も効果的に書く学生、例えば紙にブレインストーミングしたり、頭の中で考えをまとめたりするような学生は、非線形な書き方をすることで罰せられる可能性があります。そして、パノプティコンの力は、監視するだけでなく、自分自身を監視させることにあるのです。

これはすべて、重大な疑問につながります。独創性は、アイデアによって測定されるのでしょうか、それともタイピングパターンによって測定されるのでしょうか。学生の論文の書き方が、改善したからか、仲間と協力したからか、あるいは思考者として成熟したからか、劇的に変化した場合どうなるのでしょうか。過去の書き方の特徴からの逸脱は、疑わしいとみなされる可能性がありますか。もはや「カンニングしたか」ではなく、「自分らしく書いているか」になります。それはまるでジョージ・オーウェル『1984年』のような状況です。仲間や上司（二重引用符）があなたの間違った考えを監視しているのです。このAIパノプティコンのシナリオでは、著作権に関する議論はもはや直接的に人間学者を巻き込むことはなく、学生が非本物の書き方をしているとシステムによって告発された場合の可能なプロセスを考慮しなければなりません。そして、AIは詳細なレポート、単語の頻度、文の複雑さ、一時停止の期間、エンターキーのタイミングなどを生成するでしょう。そして、人間の採点者はAIの確率的な確実性に委ねる可能性があります。AIは、「この論文の85%は非有機的に書かれたように見えます」と言うでしょう。そして、学生は当然異議を申し立てることができますが、それは彼ら自身の過去の行動に基づいて訓練されたモデルに対してです。悲しむべきことですが、私は文芸の世界の大ファンであり、常に文芸の世界で隠喩や類似点を見つけていますが、これらはすべて私にカフカ的です。学生に対する証拠は、彼ら自身の以前の自分自身なのです。それは非常にsoberingな考えです。

しかし、文章のパノプティコンは、単なる剽窃検出にとどまりません。指標と業績指標によって推進される大学は、生産性自体を監視するためにAIを使い始めるかもしれません。したがって、監督者は、PACの学生が定期的に文章を書いているかどうかを示すリアルタイムのダッシュボードを持つことになります。一定期間にわたって書き込みアクティビティが検出されない場合にトリガーされるAIアラート。まあ、あなたは少し寝坊したかもしれません。それはあなたに不利に働くでしょう。その1時間は何をしていたのですか？あなたは寝ていたことを証明できますか？そしてもちろん、最も重要なのは、アプリの切り替えやブラウザのアクティビティに基づいた先延ばしのパターンの分析、FacebookやInstagram、TikTokでの10分の休憩です。あなたは本当に休憩していたのですか？あなたは本当にくだらないビデオを見ていたのですか、それともAIシステムを欺く方法に関するビデオを見ていたのですか？ビッグブラザーは常に監視しています。書くことは、一度この個人的で不規則で不均一なプロセスを終えると、私たちは皆そこを経験し、意識の流れを経験しました。しかし、それは今では廃止され、罰せられます。そして、私はこれらのAIベースのライティングアシスタント、Grammarly、ChatGPT、Microsoft Copilotが、ヘルプとコントロールの境界をさらに曖昧にするだけだと思います。あなたを助けるのと同じツールがあなたのプロセスを記録している場合どうなるのでしょうか。彼らはあなたの裏で大学に話すのでしょうか。学生はこれらのプログラムによって直接書くように指示されることはありません。しかし、抵抗の道は、そしてパノプティコンのソフトパワーです。それは命令することなく形作ります。

そして、私たちは恐ろしい収益化の世界に入ります。企業や大学は、他のセクターのための予測分析として学生の書き込み行動を収益化できるのでしょうか。しかし、すべての監視環境と同様に、抵抗の行為は常に現れる可能性があります。システムをどのように打破するのかについて、私は何度も話してきました。そして、私は、オフラインで最初の草稿を書いてから、監視プラットフォームに手動で入力すれば、それを回避する方法の1つだと思います。AIツールをプライベートで使用してドラフトを作成しますが、「有機的に」プラットフォームのために書き込みます。そして、システムで遊ぶことを決めた学生の1人になることができます。理由もなく長時間一時停止する、システムへの反抗として。不規則なタイピング、様式的な変化、理由もなく目を泳がせる。「私もあなたを見ています」と言うためです。そして、私たちは、アルゴリズム的に読める痕跡を残さずに書く方法を学生に教える、反監視論文作成ワークショップの台頭さえ見ることができるでしょう。地下抵抗のようなものだと思います。

このビデオを締めくくるにあたり、ここでいくつかの重要な倫理的な疑問を検討する必要があります。学問の誠実さと監視の間の適切なバランスとは何か。学生はAI監視下のライティング環境からオプトアウトする権利を持つべきか。私たちに関するプロセスデータの所有権は誰にあるのか。学生か、大学か。そして、AI監視ツールに関する透明性に関する義務とは何か。学生のライティングにおけるAIパノプティコン。それは遠いディストピアではありません。それは急速に技術的に実現可能になりつつあり、いくつかのパイロットプログラムでは既に存在しています。ここでは少し奇妙なことをします。アメリカのパトリオット法と比較してみます。9.11の出来事は、大量監視、大量の警察活動に関する多くの法律、規則、規制を早送りしました。そして、AIと教育の問題は、多くの大学にパニックを起こさせており、そのパニックの中で、私がここで話しているようなパノプティコンを作り出していると思います。私はそれを常に教育のコロナウイルスと呼んでいます。それはどこからともなく現れ、セクター内で大規模な変化を引き起こしました。そして、残念ながら私たちはまだ追いつこうとしています。その追いつこうとする中で、私たちはパニックを起こす可能性があります。真の質問は、技術的な問題ではなく、哲学的な問題になります。私たちは、学問的な文章、創造性、それをデジタル労働の形態として監視し、最適化したいのでしょうか。それとも、それが常に最高だったもの、つまり乱雑で、脆弱で、探求的な思考の行為として残したいのでしょうか。AI監視のアーキテクチャは、教育機関に選択肢を与えています。私たちは信頼と創造性を育むのでしょうか、それとも学生が学ぶのは自分自身を監視することだけになるような学問的なパノプティコンを構築するのでしょうか？自分自身を？[音楽]