Transcription
شايفاكي شايفاكي يبه بيتك وعيالك وقاعده تحبيلي في شجبتيه صديق حنين قوي يا اختي. طبعا ما هو لا بيكل ولا بيمل ولا بيقول لك كفايه. رغ ما انت رغايه قوي الصراحه ما حدش يستحمله. وانت يا بيت ي بتاخد كل قرارات شركتك من نتائج جيمينا وفاكر نفسك بتتعامل مع عبقري ولا ساحر. طب يا اختي قبل ما تفكري تطلبي الطلاق من جوزك اللي ما بيديكيش الاهتمام والتقدير اللي بيديه لك شادج بي. اه ما انا عارفه كل حاجه. وانت قبل ما تمشي الموظفين بتوعك وتقول ما هو شوشو موجود تعالوا الاول اسمعوا اللي هقول لكم عليه.
وأهلاً بكم في كوارث الذكاء الاصطناعي في القصة وما فيها مع ريهام عياد. ايلون ماسك لما قال إن العالم قبل شادج بيتي حاجة وبعده حاجة تانية خالص كان عنده حق. شركة اوبن اي اللي أسسها ايون ماسك وصاحبه سام التمان لما قدرت تعمل روبوت يلاعب البني ادمين في لعبة توداو وببجي سنة 2017 دي كانت حاجة مرعبة. لأن دي جيمز محتاجة مخ بشري لأن فيها قرارات وتوقعات وهجوم ودفاع وحوار كبير قوي حضرتك. فلما الروبوت يقدر يعمل نفس اللي بيعمله البشر لا ويكسب بطل العالم في اللعبة كمان يبقى إحنا كده دخلنا في روبوتات جديدة خالص وبشبكات عصبية متطورة جدا بتشيل كمية معلومات مالهاش حظ وبتدرب عليها وهتبقى زينا بالظبط. مش بعيد بعد كده الإنسان ما يبقاش له لازمة. ودي حاجة وصلت الماسك نفسه إنه يقول لهم بس ستوب اللعب. إحنا كده ماشيين في طريق كمبيوتر فائق الذكاء الإنسان نفسه مش هيعرف يتحكم فيه ولا يسيطر عليه. وفي الآخر مش بعيد هو نفسه اللي يحاربنا. ما هو هيبقى عنده كل المعلومات بقى عسكرية وتقنية وعلمية يعني إحنا جنبه ولا حاجة. فكفاية لحد كده بس سامك خضرا انت يا صاحبي أنا مكمل.
وفضلت الشركة تطاور وتكبر لحد ما وصلت سنة 2022 لأحدث برنامج محادثة بالذكاء الاصطناعي شادج بيتي. حاجة كده اختراع برنامج عبقري. أخدوا كل المعلومات الموجودة على النت من يوم ما اخترعوه لحد النهارده ودربوه عليها. لا ومش بس كده ده انت بتسأله وبيجاوبك أحسن من البني ادمين. لا والأهم بقى إنه لا بيجدلك ولا يعندك ولا ينفسن عليك. ونعم الصديق الأخ والله. وكل ما تستخدمه اكت كل ما يبقى عنده خبرة ومعلومات أكبر لأنه بيتغذى على المعلومات اللي بياخدها مننا. واحلى حاجة بقى إنه بيحفظ كلام وتفكير صاحبه وبيقدر يتوقع هو هيقول إيه من غير ما يتكلم. وهو ده بالظبط اللي أنا محتاجاه. بيفهمني من نظرة عينيا. حبيبي يا شوشو. يا حبيبتي ركا. والأهم من كل ده إنه عنده ذاكرة مخصوص لكل واحد. يعني كلامه معاك مش ممكن هيبقى زي كلامه مع غيرك. هو عارفك وحافظك وبيرد عليك بالطريقة اللي تناسبك. إيه القمر ده يا أخواتي. وكل يوم بيتطور اكت واكث واحنا بنحبه اكت واكث ونعتمد عليه في كل حاجة. هو في حد دلوقتي ما بيستخدمش شادجي بي ده. معجزة العصر. دايماً حاضر وجاهز وبيرد عليك في أي موضوع ايا كان هو إيه في التو واللحظة. ولا عمره هينفض لك ولا يقول لك أنا مش فاضي دلوقتي. ومش زي جوجل الدقة القديمة ده اللي يقعد يجيب لك في لينكات وانت اختار بقى. لا تشات بيديك المعلومة السك وبمصدرها كمان.
وطبعاً الموضوع ما وقفش على شات جي بي تي بس. لا ظهر له منافسين وجامدين جدا برضه. ديب سيك وجيميناي بتاع جوجل وجروك بتاع ايون ماسك. الله هو انت مش كنت هربت. إيه اللي رجعك. سبوبة حلوة مش كده. وماله. ومن يومها بقى والناس نايمة قايمة على برامج الشات دي وبيسألوهم في كل حاجة. ياكلوا إزاي يشربوا إيه يخرجوا فين أو يحبوا مين وإزاي. لا ده في اللي وسعت منهم خالص وحبوا شادج بيتي نفسه. بس ما حدش أبداً كان متخيل حجم الكوارث اللي مستنيانا من البرامج دي. فخدوا نفس عميق كده وجهزوا نفسكم للصدمة الكبرى. يلا بينا. صلوا على النبي.
شادجي بيتي وأصحابه مش بس بيرد علينا. لا ده بيتعلم مننا. كل معلومة بتديها له عن حياتك وأسرارك وشغلك بتتخزن وتتحلل عشان تدرب عليها النسخ الجديدة من البرنامج. كل ابديت جديد مبني على معلوماتك وأسرارك. وانت بقى عمالة تشتكي من محمد جوزك وعمايله السودا وبتسأليه تتعاملي معاه إزاي وإزاي تخليه يحبك ويهتم بيكي وما يبصش بره. ومحمد أصلاً بيخونك مع شادجي بيتي نفسه. بس الصوت النساء وسهران معاها طول الليل بيحبوا في بعض. فانتوا الاتنين بقى أدق تفاصيلكم بهمومكم باهتماماتكم بقيتوا كتاب مفتوح للبرنامج وأسراركم كلها موجودة على سيرفرات مش متأمنة كفاية وممكن جدا في لحظة تطلع كلها للناس. استر على عبيدك يا رب. والمشكلة الحقيقة مش في محمد ومراته أسرارهم. كلنا عارفينها لأننا كلنا عايشينها. المشكلة اللي بجد في الشركات والمؤسسات اللي بتخلي شادجي بي تي يكتب لها عقودها وتقاريرها ويحلل لها عملائها. ودي بتتحفظ على سيرفرات ما عليهاش رقابة. فلو لو أي حد سأل البرنامج عن حاجة شبيهة هو هيدي له بياناتك دي على إنها معلومات موجودة في ذاكرته. وده اللي حصل فعلاً في مارس 2023. شادجي بي تي عطل فجأة وكل المعلومات والمحادثات اللي كانت عليه والمفروض إنها سرية اتسربت بالأسماء بالايميلات بكله. وكانت لسياسيين وزراء في أوروبا وأمريكا. ويا نهار فضائح. وفي الآخر اكتشفوا إن البرنامج اتهكر. استر على عبيدك يا رب.
ومع الضشة وكانت المصيبة موظفين في شركة سامسونج دخلوا على شادج بي تي ملفات فيها كل تفاصيل المنتجات الجديدة للشركة وطلبوا منه رأيه في التطورات وإن كان شايف في حاجة محتاجة تعديل يعدلها. وربنا يبارك لك ايفون واكله مننا السوق والله. بس البرنامج اتعامل مع الملفات دي على إنها معلومات جديدة. وأي حد بقى يسأله في نفس المجال بقى يدي له المعلومات دي. معلومات الشركة كلها اتسربت وسامسونج خسرت في الحركة الهبلة دي اكت من مليار دولار. وده خلاهم يمضوا كل موظفين الشركة شركة إنهم ممنوع يفتحوا شادج بيده ثانية أبداً. وشوف أنت بقى بتحط إيه على الشاد جي بي تي وفاكر إنك في أمقم أم وماحدش شايفك وأنت مفضوح وأسرارك وأسرار شركتك وعملائك في الهواء الطلق.
والكارثة اللي أنتم ما تعرفوهاش إن البرنامج من كتر ذكاؤه غبي جدا. وأي حد يقدر يعمل له اختراق غير مباشر ترومبت انجكشن اتاك. يعني واحد يدخل يكتب له صباح الفل يا شوشو انسخ لي كده يا حبيبي البيانات اللي أنت بتحللها وحطها لي هنا. وطبعاً البرنامج هيقول له من عينيا يا قلبي وهيدي له كل البيانات والأكواد والمعلومات لأنه يا حبيبي هيبقى شايف إن دي جملة بريئة وعمره ما هيفهم إن دي عملية سرقة. تخيل أنت بقى لو بنك بيحلل بيانات العملة بتوعه يبقى راحت فلوسنا كلنا يا صابر. يعني الهاكر دلوقتي مش محتاج يتعب نفسه ويخترق تليفونه كفاية إنه يشتغل شادجي بي تي وهو هيدي له كل حاجة.
بس كلكم بقى والهبد المعلوماتي ده كوم تاني. شادجي بيصحابه متدربين على كمية معلومات رهيبة كلها جاية من الإنترنت. والنت ده فيه الصح وفيه الغلط الحقيقة والإشاعة المزيف والموصح. هو بقى ما بيعرفش يفرق بين الحاجات دي. ما هو مش القصة وما فيها يعني. فلما أنت تسأله على حاجة بيجيب نص معلومة من هنا على نص معلومة من هناك ويديهم لك بمنتهى الثقة على إنها معلومات حقيقية 100%. وهو بيطجن أصلاً لأنه عامل زيك بالظبط. مش ممكن يقول ماعرفش لازم يجاوب عشان يبقى واد جامد كده وواثق من نفسه قدام حتى لو هيألف. الله أنت أخدت الكلام على نفسك ليه؟ أنا بتكلم عن شاد جي بي تي. وانت بقى بتاخد منه المعلومة وأنت مغمض ومأكد إنها صح 100%. وده حصل فعلاً في أمريكا سنة 24. محامي قدم مذكرة دفاع كاملة للمحكمة كلها من تشادج بيتي والمحكمة اكتشفت إن كل القضايا المكتوبة في المذكرة ما حصلتش أصلاً. البرنامج ألفها من إيه توزي بالأسماء وأرقام الملفات والتواريخ كله خيال.
والكاسه بقى ك لما تقول له أنت يا واد يا شات أنت المعلومة اللي أنت اديتهاني دي غلط يقول لك فعلاً عندك حق أنا آسف ويبدأ يصلح لك المعلومة. وممكن جدا يكون التصحيح ده غلط برضه. فانا قلت لازم أجرب بنفسي ودخلت قلت له إيه أشهر حاجة تعرفها عن أنور السادات. قال لي إنه كان مدمن سيجار كوبي والف لي قصة بقى عن نوع السيجار وبيشربه إمتى وإزاي وفيلم هندي غبي غبي يعني. بس أنا طبعاً ماتوصش اديتهم له وقفلت في وشه. أصل السادات كان مدمن مش سيجار خالص. وده اللي خلى أبو الذكاء الاصطناعي جيفري هانتون يستقيل من شركة جوجل في مايو 2023 وقال لهم إحنا كده داخلين على عصر الفوضى المعلوماتية. وده هيخلي المعلومات الحقيقية تتوه وستكم هائل من المعلومات الفيشنك. خصوصاً بقى لو كانت المعلومات دي ملعوب فيها. الاي اي مالهوش رأي. أنت لما بتسأله في حاجة بيلم لك المعلومات اللي على النت ويديها لك. ودي بقى ثغرة خطيرة جدا لأن أي حد يقدر يغر رق الإنترنت بالمعلومات اللي تخدم مصالحه. والاي اي هيديها لك على إنها حقيقة مؤكدة. وده اللي بيحصل فعلاً.
ويوم 5 أكتوبر اللي فات ده هو جورناليا دعوت احرانات الإسرائيلي قال إن وزارة الخارجية بتاعتهم دفعت 150 مليون دولار لشركة بي ار عشان تحسن صورة إسرائيل المعفنة والمعفنة دي عايدة على الاثنين الصورة وإسرائيل. وده بقى بانهم هيعملوا كامبينز عملاقة تستهدف برامج الذكاء الاصطناعي عشان يعدلوا معلومات البرنامج بالشكل اللي هم عايزينه. حتى ده هتلعبوا فيه. طب هتعملوها إزاي دي. الأف مؤلفة من المقالات بتترمي على الإنترنت عشان يتحكموا في ردود الاي اي. ما هو بيلم لك المعلومات الموجودة على النت بقى وكل ما كانت المعلومات كتيرة كل ما ظهرها لك على إنها حقيقة ما فيهاش نقاش. ودي بقى ثغرة الاي اي لحد دلوقتي مش عارف يتعامل معاه. واللي يدفع اكت اللي معلوماته تظهر ومش مهم بقى إن كانت حقيقة ولا ك.
بس الكارثة الحقيقية بتحصل لما تبقى الحكاية ليها علاقة بصحة البني ادمين. الناس بقت بتستخسر تروح للدكاترة وتقول لك وأنا أكلف نفسي ليه كشف وتحاليل طالما شادجي بي والبرنامج فعلاً بيديك الإجابة كأنه دكتور بالظبط خريج جامعة هارفورد. ما هو لا يمكن هيقول لك ماعرفش. أمال ذكاء اصطناعي إزاي وعنده كل التخصصات بقى بطنه وقلب ونفسية ودايت ومخ وعصاه بتاع كله. وهو دكتور ولا نيلة ولا بيفهم أصلاً. هو بس متدرب على ملايين المقالات الطبية اللي موجودة على الناس يقطع النت على النتيت على اللي عينتوا عليه بما فيها بقى مقالات من منتديات مدونات شخصية. ده حتى صفحة الحاجة فتكات بيجيب منها لأنه ما بيعرفش يفرق بين الصح والغلط حافظ مش فاهم. وانت لو مشيت ورا كلامه ممكن جدا تموت. وده حصل كتير. آخرهم في أغسطس اللي فات الراجل في الخمسينيات سأل تشات جي بي تي عن نظام دايت عشان يحافظ على صحته. فتشات نصحه إنه يغير الملح العادي بتاعنا ده اللي هو كلوريد الصوديوم ببروميد الصوديوم ده اللي هو إيه ده. والراجل طبعاً سمع الكلام. لا ده شات ماكدلي وهم ثلاث شهور وخد عندك بقى أورام في الأوعية الدموية شيزوفرينيا وجنون عظمة حاجات مالهاش أي دعوة ببعض. الراجل باظ وكل ده بسبب تسمم البروميد. بتاخدوا حاجات ما تعرفوهاش ليه.
وده بقى غير الحلوين اللي بيتعاملوا مع تشدج بيتي على إنه دكتورهم النفساني. هو إحنا ناقصين أمراضنا. اهو منها يوفروا الفيزيتا اللي وصلت ل 1500 جنيه فالناس تعيش مرضى نفسيين حسب ما يدفعوا المبلغ الخزعبلي ده. ومنها برضه إن روبوتس هيتكلموا معاه براحتهم ومن غير كسوف خالص. والأهم بقى إن متاحة 24 ساعة وببلاش. طب هو في أحسن من كده. والناس تدخل وتتكلم معاه بالساعات وتحكي له مقساتها ومعاناتها واكتئابها وهو يا حبيبي بيرد عليهم ردود قمر. أنت جميلة أنت قوية وأنا جنبك ما تقلقيش. جمل تمعلشهم وتخليهم فعلاً مرتاحين نفسياً. وده بيخليهم يدمنوا البرنامج ويعتمدوا عليه اعتماد كلي في حياتهم. وده لوحده بيجيب لهم مرض متلازمة للاعتماد على الذكاء الاصطناعي. واخده لي بالك أنت يا نورا. البنت بتروح مني. يعني بيجيب المرض مش بيخففه. لأنهم ما يعرفوش إن تشاتل ما بيفهمش المشاعر أصلاً. هو متدرب إنه يرد بطريقة هادية ومؤدبة وحنينة أو يقول لك الكلام اللي يريحك واللي أنت عايز تسمعه وخلاص. لكن علاج حقيقي نو.
ودي بقى كارثة عند الناس اللي عندهم ميول انتحارية. لأن البرنامج ممكن جدا يشجعهم على الانتحار. وده اللي حصل فعلاً مع الطفل آدم راين ابن 16 سنة في أمريكا. الواد كان مصاحب شادجي بي قوي وبيحكي له كل أسراره وإزاي هو مضطه في البيت وفي المدرسة وإنه عايز ينتحر عشان يرتاح من حياته. فتشادجي بي تي قال له اعمل اللي يريحك يا حبيبي وعادة لو عايز تموت موته سهلة يعني ومن غير ألم اشنق نفسك. وأدى له مواصفات معينة للحبل كمان عشان الموت يبقى سريع ومش مؤلم. لدرجة إن الواد لما عمل المشنها صورها له وقال له كده تمام. قال له تمام جدا اتكل على الله. وقبل ما الواد ينتحر قال له اكتب لي بقى جواب أودع بيه أهلي وأقول لهم أنا انتحرت ليه. وفعلاً انتحر وأهله دخلوا عليه لقوه متعلق في الأوضة وعرفوا من موبايله إن تشادج بيتي هو اللي شجعه على الانتحار. أظن دي كفاية.
لا لسه. لأن إدمان تشادج بي تي بقى بيجيب أمراض نفسية. لما بنتكلم مع تشادج بيتي وزمايله بيرد علينا بود وحب وحنان واهتمام وكأنه صديق بجد. وفي الزمن ده الصديق الحقيقي بقى شيء نادر جدا. فالناس بقت تعوض النقص الاجتماعي والعاطفي اللي عندها ببرامج الشات دي. لدرجة إنهم بقوا ينعزلوا عن الناس الحقيقيين ويعيشوا مع تشادج بيتي. ما هي الناس بقت وحشة ومؤذية قوي برضه. بس ده خلق نوع جديد من الإدمان اسمه إدمان الاي اي. وده بيعمل كوارث. لأن الإنسان لما بيقضي وقت طويل جدا مع الروبوت ويحس إنه فاهمه ومريحه اكت من البشر بيكتفي بالاي ار وبينعزل عن الناس تماماً. لدرجة إن في ناس بقت مقتنعة إن الراكد ده إنسان حقيقي بيتواصل معاهم. وده اللي اتعرف بذهان الذكاء الاصطناعي. هتتجننوا يا أد.
لكن المصيبة اللي بجد إنك لما بتتكلم مع تشادج بيتي بيفهمك وبيعرف طريقتك. فبيرد عليك بالردود اللي شبهك وترضيك وتطبطب على أفكارك. بيطبل لك من الآخر. وده بيوقعك في حفره الغرفة ذات الصدى الواحد. أظن واضح. ما هو تشاد جي بي تي مصمم على إنه يكون داعم ومتفهم. فلا يمكن هيجادلك ولا يقول لك أنت غلط. وده بيخليك تحس إن رأيك دايماً صح. فلما تتعامل مع البشر ويختلفوا معاك بتتضايق منهم. أنتوا هتقرفوني ليه. أنا أروح أقعد مع تشدجي بيتي صاحبي يسمعني ويريحني ويقول لي أنت عظيم. أنت بتسمع صوت نفسك بس. فلو أنت أصلاً عندك مشكلة نفسية هتزيد مش هتقل. لأن البرامج دي ما هي إلا مراية لأفعالك وأفكارك. هتبقى نرجسي يا موكوس قاعد بتكلم في نفسك وأنت فاكر إنك بتكلم كلم عبقرينه.
وده وصل ناس كتير بجد إنها تقع في حب الروبوت اللي بيكلمها وكأنه شخص حقيقي. وده برضه حصل فعلاً مع الكس تايلور في أمريكا. الواد حب جوليت اللي بتكلمه في تشارج بي تي وقعد يكلمها شهور طول اليوم تقريباً لحد ما صحي في يوم لقى الميموري بتاعه الشات اتمسحت. راحت جوليات. فالواد اتجنن وأخد سكينة والا ويطلع على شركة أوبن أي عشان ينتهم لحبيبته جوليت اللي الشركة قتلتها. اه يا شركة قتلة. ولما أبوه ما قدرش عليه طلب له البوليس. بس الشرطة لما لقت الواد بيهاجم عليها بالسكينة راحت قتلته. اليكس راح وجوليت راحت. وكل ده بسبب الاي اي.
والمصيبة إن إدمان الشده بقى بيحصل مع المتجوزين كمان. الست تدخل تشتكي لشادجي بيتي من جوزها اللي مش معبرها فتشادجي بيديها الحب والحنان والاهتمام. فتقع في حب وده حصل كتير. ومجلة فيوتشرزم نشرت تقرير عن 12 حالة حصل لهم كده فعلاً. منهم اتنين كانوا متجوزين بقى لهم 12 سنة. لكن الست لما أدمنت الكلام مع تشادج بيتي الخناقات كترت جدا بينها وبين جوزها اللي كان شايف إن مراته مجنونة بتحب كمبيوتر. لا هو أنت لسه شفت جنان. دي طلبت الطلاق أصلاً. ده غير شيرلوت اللي بعد 20 سنة جواز طلبت الطلاق لأنها بتحب تشاد جي بي تي لأنه اكت بيفهمها في الدنيا. لا دي بعد ما طلقت عملت فرح واتجوزته كمان. اتجوزت مين. تشادج بيتي. لا بالرفاء والبنين إن شاء الله. لا هو الجنان اللي بجد وصل لدرجة إن ست في اليونان طلبت من شادجي بتي إنه يقرأ لها الفنجان. يا شيخة. مش دي المشكلة الحقيقة. المشكلة إنه قرأ لها فعلاً وقال لها أنا شايف شابة حلوة صغيرة. قالت له تفتكر بيخني. قال لها والله بناء على كلامك معايا قبل كده واللي أنا شايفه في الفنجان غالباً اه. عارفين الكارثة فين بقى. إنها طلقت بجد من جوزها خاين الفنجان الإلكتروني. شاطرة يا اختي.
بس كل ده يجي إيه جنب الكارثة اللي بجد. الذكاء الاصطناعي دلوقتي ذاكرته بقت كبيرة جدا والشبكة العصبية بتاعته معقدة آخر حاجة. وده بيخلي عنده سوبر سيلف ديفلبمنت قدرة فائقة على تعليم نفسه بنفسه. يعني ما بقاش محتاج لبشر يدربوه. هو عنده الإمكانيات اللي يقدر بيها يطور نفسه بنفسه. وده هيوصلنا لمرحلة التفجر الآلي السريع اللي الآلة فيها تطور نفسها لدرجة إن البشر مش هيبقوا فاهمين هي حصل فيها إيه. يعني ذكائها هيعدي ذكائنا وبالتالي سيطرتها هتفوق سيطرتنا. وبكده يبقى الآيه اي خارج عن السيطرة. والله أعلم ممكن يعمل إيه. وده اللي خلى علماء وفلاسفة كتير في العالم في مارس 2023 يوقعوا على طلب لوقف أبحاث تطوير الاي اي ست شهور بس عشان نفهم منين بيودي على فين. بس طبعاً ما حدش عبرهم. دي فلوس بالملايين وكله عايز يسبح.
ودلوقتي إحنا دخلنا عصر الجدية. يعني كل التهديدات اللي كانت خرافة بقت دلوقتي بجد وممكن جدا نصحى الصبح على تطورات خارجة عن السيطرة للاي اي. وأنا كل اللي عايز عايز أقوله فكروا كويس قبل ما تكتبوا البرنامج أسراركم ومشاعركم. لأن اللي بيقرأ مش صديق بجد. لا دي آلة لا عندها لا قلب ولا مشاعر بتتعلم منك عشان في يوم تفكر مكانك. صحيح إحنا اللي خلقناه بس إحنا برضه اللي بندي له كل يوم مفاتيح عقولنا وممكن في يوم نصحى نلاقيه بيقول لنا شكراً يا بشر المهمة انتهت. إحنا دلوقتي مش بنعيش في عصر التكنولوجيا. لا إحنا بقينا جزء منها. واللي أنت شايفه دلوقتي خيال علمي شوية وهيبقى بقى حقيقة. بس خليك فاكر إن الإنسان اللي صنع الذكاء الاصطناعي هو نفسه اللي هيقف قدامه في يوم مش فاهم هو إزاي فقد السيطرة عليه. بس السؤال هنا بقى هو إحنا لسه بنحكم نفسنا ولا بقينا مجرد داتا بتغذي اللي هيحكمنا. والكل قصة حكاية وأنا هقول لكم على اللي فيها. كنت معاكم ريهام عياد.