حقوق الطبع والنشر للصور جيتي
باراب غوش محرر العلوم
في موقع مصنع سابق للساعات في وسط لندن، توجد صفوف من الثلاجات البيضاء تعمل بهدوء. يوجد بالداخل عشرات الصناديق الصغيرة التي تحتوي على أنابيب زجاجية مشفرة. في المجمل، يحتوي الأنبوب الزجاجي على 100 مليار جين. ووفقاً للمؤسس المشارك للمنشأة الدكتور أوليفر فينس، فإن اثنين فقط من هذه الصناديق قد يحتويان على معلومات أكثر بعشرة أضعاف من كل النص الموجود على الإنترنت.
تخطط شركة الدكتور فينس، Basecamp Research، لجمع أكبر قدر ممكن من الحمض النووي وتطوير ذكاء اصطناعي (AI) يمكنه التحدث بلغة علم الأحياء. وهذه هي نفس الطريقة التي تستخدمها شركات التكنولوجيا الأمريكية والصينية لجمع كميات هائلة من المؤلفات على الإنترنت وإنشاء نماذج لغوية واسعة النطاق (LLMs) التي تشكل الأساس لأنظمة الذكاء الاصطناعي اليوم.
يعتقد الدكتور فينس، مثل كثيرين في مجال الأعمال والأوساط الأكاديمية، أن الذكاء الاصطناعي سوف يسرع بشكل كبير البحث العلمي. لكن في الوقت نفسه، تتزايد الانتقادات والتحذيرات بشأن الذكاء الاصطناعي.
في الشهر الماضي، أعلنت شركة Open AI، الشركة التي طورت وتدير برنامج الدردشة الآلي Chat GPT، أنها قامت بحل إحدى المسائل التي لم يتم حلها في الرياضيات والتي تسمى مشكلة يانصيب الألفية. وتقول الشركة إن وكيل الذكاء الاصطناعي الخاص بها قد حل مشكلة تتعلق بمعادلات Navier-Stokes في 88 ساعة. وقال معهد كلاي للرياضيات، الذي يختار "مشكلة يانصيب الألفية" ويمنح جوائز مالية لمن يحلها، إنه "يبدو أنه قد حلها"، لكنه قال إن مراجعة المشكلة ستستغرق بعض الوقت.
ولكن قبل ساعات من إعلان Open AI، أعرب تريستان باكماستر، عالم الرياضيات في جامعة نيويورك، عن مخاوفه علنًا. قام باكماستر بتشكيل فريق مستقل مع ليفينت ألبوج، عالم الرياضيات الذي يعمل لدى شركة أنثروبيك المنافسة لشركة OpenAI.
كان هذا الفريق يعمل أيضًا على حل معادلات نافير-ستوكس، وقد حفظ مسودة نتائجها في أداة التشفير المفتوحة للذكاء الاصطناعي Codex.
وأوضح باكماستر أن الباحثين المشاركين معه أُبلغوا بأن التقدم المحرز في البحث قد "تم نقله" إلى Open AI، لكنه لم يوضح الظروف. وعلى الرغم من أنه تساءل عما إذا كانت نتائج بحثه المخزنة في الدستور الغذائي قد ساعدت في فتح أبحاث الذكاء الاصطناعي، إلا أنه أكد أنه "لا يلوم أي شخص على أي شيء".
قال Open AI أنه لا البشر ولا الذكاء الاصطناعي يرون نتائج الفرق الأخرى قبل نشرها. ومع ذلك، قالت الشركة في البداية إنها "لا تستطيع استبعاد" الاحتمال، على الرغم من أنه غير مرجح، أن البيانات المجهولة من استخدام منتجاتها ساعدت في تحسين نماذجها. ومع ذلك، بعد بضعة أيام، قال باكماستر إنه من غير الممكن أن يكون لمطالبات مخطوطة باكماستر "أي تأثير على النظام" في الشهرين السابقين للإعلان.
هذه قصة معقدة، وما زلنا لا نفهم تماما ما حدث. لكن هذا يسلط الضوء على مشكلة متنامية فيما يتعلق باستخدام الذكاء الاصطناعي في العلوم. عادة، عندما نسمع كلمة "الذكاء الاصطناعي"، نفكر في الروبوتات التي تخلق فيروسات مرعبة معدلة وراثيًا أو أسلحة كيميائية تمحو البشرية. ومع ذلك، هناك قضايا أكثر دقة حظيت باهتمام أقل. المشكلة هي أن الذكاء الاصطناعي قد يقوض الثقة في العملية العلمية ويثير تساؤلات حول حداثة ودقة الأبحاث.
هناك مشكلة أخرى. ومن الحقائق المعروفة أن روبوتات الدردشة التي تعمل بالذكاء الاصطناعي، مثل Claude وGemini من Google، تقول أحيانًا أشياء غير صحيحة ويبدو أنها هلوسة. أحيانًا نتحدث عن أفلام غير موجودة أو مقولات مشهورة لم يقلها أحد. والآن هناك أدلة على أن هذه الظاهرة أصبحت واضحة بشكل متزايد في العلوم، مما يثير المخاوف من أنه قد يصبح من الصعب في نهاية المطاف التمييز بين الاكتشافات العلمية الحقيقية والخيال الناتج عن الذكاء الاصطناعي.
وتهدد كل هذه المخاوف بتقويض أو تآكل أسس الثقة التي يقوم عليها البحث العلمي.
"نقطة تحول"
المجلات العلمية، حامية النزاهة العلمية، معرضة لتهديد الذكاء الاصطناعي. يُنظر إلى هذه المجلات على أنها فشلت في معالجة الكم الهائل من التشويه الذي سيولده الذكاء الاصطناعي.
وقال دالميت سينغ تشاولا، الصحفي العلمي الذي غطى الاحتيال البحثي لمدة عقد من الزمن: "لقد عطل الذكاء الاصطناعي المولد العملية العلمية برمتها".
وقال تشاولا لبي بي سي إن مراجعي أخلاقيات الناشرين - الأشخاص الذين يراجعون التقارير للتأكد من دقتها وجدارة الثقة - "بحاجة إلى زيادة أعدادهم ومواردهم بشكل كبير إذا أرادوا المشاركة ولو عن بعد في هذه المعركة". وأضاف: "في الوقت الحالي، لا يبدو أنهم يفعلون ذلك".
للوهلة الأولى، يبدو الذكاء الاصطناعي وكأنه الأداة المثالية لتعزيز البحث العلمي. يتعامل العلماء مع كميات هائلة من المعلومات. على سبيل المثال، تجمع التلسكوبات ومسرعات الجسيمات مليارات نقاط البيانات، وهي كبيرة جدًا بحيث لا يستطيع الدماغ البشري فهمها. يمكن للذكاء الاصطناعي أن يلتقط نقاطًا مهمة علميًا من المعلومات الدنيوية المحيطة به.
الشركة الرائدة في مجال الذكاء الاصطناعي العلمي هي Google DeepMind، ومقرها في المملكة المتحدة. وفي عام 2020، قامت الشركة بحل أحد أكبر الألغاز في علم الأحياء: كيف تطوى البروتينات إلى أشكال دقيقة في الكائنات الحية.
تلعب البروتينات، والتي يمكن أن نطلق عليها آلات صغيرة تدعم أنشطة الحياة، مجموعة متنوعة من الأدوار اعتمادًا على شكلها المطوي، بدءًا من بناء الخلايا ومكافحة العدوى وحتى تكوين أنسجة وأعضاء الجسم.
قبل الذكاء الاصطناعي، كان على العلماء إجراء تجارب تستغرق وقتًا طويلاً في المختبر. وفي وقت لاحق، طور Google DeepMind نموذجًا للذكاء الاصطناعي يسمى "Alphafold" ونجح في التنبؤ بدقة بالبنية القابلة للطي لـ 200 مليون بروتين في عام واحد فقط.
إن القيام بذلك بالطريقة التقليدية قد يستغرق مئات الملايين من السنين. وقدمت الشركة نتائج الأبحاث للباحثين مجانا. في عام 2024، حصل الرئيس التنفيذي وكبير العلماء في Google DeepMind على جائزة نوبل في الكيمياء بشكل مشترك.
احتضن جميع المشاركين بعضهم البعض بفرح في هذا الحدث.
أخبرني الدكتور بوشميت كوهلي، الذي يقود البحث العلمي في الشركة، أن طية ألفا يمكن اعتبارها "نقطة تحول".
شكوك حول كيفية عمل الذكاء الاصطناعي؟
ومع ذلك، فإن استخدام الذكاء الاصطناعي في المجالات العلمية قد أثار أيضًا انتقادات لكونه مبالغًا فيه. وقد اتُهمت بعض النماذج الحاسوبية بالمبالغة في أهمية النتائج التي توصلت إليها، كما أن الباحثين البشريين الذين يشرفون عليها يصدقون بعض ادعاءاتهم دون أن يكونوا متشككين بما فيه الكفاية.
بتشجيع من نجاحه مع Alphafold، بدأ Google DeepMind مؤخرًا في التركيز على التنبؤ ببنية المواد الجديدة. يمكن أن يؤدي هذا البحث إلى تطوير بطاريات أفضل، وخلايا شمسية أرخص، ومكونات إلكترونية لا تعتمد على العناصر الأرضية النادرة. وإذا نجحت هذه المنازعات، من الناحية النظرية، فإن النزاعات حول حقوق التعدين لن تتكرر مرة أخرى أبداً، وسوف تتم حماية إقليم جرينلاند الذي يتمتع بالحكم الذاتي في الدنمرك من خطر الغزو.
حقوق الطبع والنشر للصور جوزيه سارمينتو ماتوس / بلومبرج عبر صور غيتي
أنتجت نماذج الذكاء الاصطناعي الخاصة بالشركة أكثر من مليوني هيكل كريستالي جديد، وهو ما تسميه الشركة "الكشف عن ما يقرب من 800 عام من المعرفة في ضربة واحدة". تم اعتبار حوالي 380.000 منها واعدة بما يكفي لتصنيعها في المختبر.
ولكن بعد ذلك أصدر اثنان من الكيميائيين في جامعة كاليفورنيا تحذيرًا. قام أنتوني شيثام ورام سيشادري بفحص عينة عشوائية من البلورة الجديدة. وفي ورقة بحثية نشرت في مجلة كيمياء المواد، خلص الثنائي إلى أنهما لم يعثرا على "مركبات جديدة بشكل ملفت للنظر" وجادلا بأن الكثير منها كان "تعديلات طفيفة على مواد معروفة". وأشاروا إلى أن طريقة التحليل لم تكن خاطئة، لكن النتائج تحتاج إلى مزيد من التدقيق والتحقق من قبل الكيميائيين البشريين.
يشكك Google DeepMind في ادعاءاتهم ويقول إنه قام باختبار كل مركب للتأكد من حداثته. وتقول الشركة إنها تخطئ في استنتاج أنه لمجرد أن الهيكل مألوف، فهو ليس جديدًا. تم إنشاء العديد من المواد الأكثر فائدة اليوم، من أجزاء الهاتف الخليوي إلى الواقي من الشمس، عن طريق مبادلة ذرة واحدة فقط.
بحث مثل "القمامة"
وفي هذه الحالات، على الأقل، كانت الأدلة العلمية صحيحة بشكل عام، وكانت المشكلة هي أن الذكاء الاصطناعي ربما بالغ في تقدير أهميته.
ولكن ربما يكون مصدر القلق الأكثر خطورة هو الخطر المتزايد المتمثل في تلوث المجلات العلمية بما يسمى "النفايات" التي ينتجها الذكاء الاصطناعي. في هذه الحالة، يعني الذكاء الاصطناعي أن أجهزة الكمبيوتر، وليس العلماء البشر، هي التي تكتب أوراقًا بحثية وتنشئ استشهادات مزيفة وأوراقًا وهمية بداخلها.
في عام 2024، قام البروفيسور ديمتري كوفاك، عالم الكمبيوتر في جامعة غنت في بلجيكا، بالبحث في أكثر من مليون ورقة بحثية في الطب الحيوي عن الكلمات الرئيسية التي يفضلها طلاب الماجستير في القانون والتي تستخدم الذكاء الاصطناعي لإنشاء الجمل. وبحلول ديسمبر من العام الماضي، وجد فريقه أن ما يقرب من 90% من الأوراق تحتوي على آثار للذكاء الاصطناعي. تكنولوجيا اكتشاف الذكاء الاصطناعي ليست مثالية، ويمكن لبعض البرامج أن تخطئ في تعريف دستور الولايات المتحدة، الذي تمت كتابته في ثمانينيات القرن الثامن عشر، على أنه "تم إنشاؤه بواسطة الذكاء الاصطناعي". لكن البروفيسور كوباتش صُدم عندما رأى أن الذكاء الاصطناعي يُستخدم على هذا النطاق الواسع.
وقال لمجلة Nature: "مهما كانت التحيزات التي يحملها برنامج LLM، فقد تغلغلت فجأة في الأدبيات (العلمية) بأكملها".
البروفيسور كوباتش هو واحد من العديد من الباحثين الذين يشعرون بالقلق من أن الذكاء الاصطناعي يؤدي إلى تآكل المجلات العلمية ببطء.
هذا مهم. الأوراق البحثية هي شريان الحياة للتقدم العلمي. عندما يتم نشر اكتشاف ما، قد يتلقى فريق بحث آخر في جزء آخر من العالم تمويلًا للبناء على هذا الاكتشاف.
حقوق الطبع والنشر للصور أرشيف التاريخ العالمي / مجموعة الصور العالمية عبر Getty Images
كما يتم تقويض عملية مراجعة النظراء، حيث تتم مراجعة الأوراق البحثية من قبل علماء آخرين قبل نشرها.
وبعد تحليل تقارير مراجعة النظراء المقدمة إلى أربع جمعيات كبرى لعلوم الكمبيوتر، وجد فريق بقيادة ويشين ليان وجيمس زو من جامعة ستانفورد أن ما يصل إلى 17% من النص قد تم تعديله بشكل كبير باستخدام نماذج اللغة.
من العناصر المهمة في ضمان مصداقية الورقة العلمية أن يقوم المؤلف الأول بإدراج الأبحاث السابقة وإثبات أن عمله جديد حقًا. وهذا ما يسمى الاقتباس. ووجد فريق آخر في جامعة كورنيل أنه عندما استخدم الباحثون الذكاء الاصطناعي لتجميع الاستشهادات، كان الذكاء الاصطناعي ينشئ أبحاثًا مزيفة. وفي العام الماضي، تم الاستشهاد بحوالي 147 ألف دراسة وهمية.
وإذا استمر الذكاء الاصطناعي في تشويه سلامة العملية الأكاديمية بهذه الطريقة، فسوف يتقطع السبل بالباحثين، وسيتم إهدار الأموال العامة، وسوف تتأخر نتائج البحوث المشروعة، مثل الأدوية الجديدة والتقنيات الخضراء، أو لن تتحقق على الإطلاق.
"المستوى البحثي للذكاء الاصطناعي"
يتخذ بعض ناشري المجلات العلمية، مثل Elsevier، خطوات لتجنب أزمة الثقة المتفاقمة هذه.
قام فريق أخلاقيات البحث في Elsevier بتطوير حوالي 100 مؤشر لتحديد متى تحتاج الورقة البحثية إلى مراجعة بشرية دقيقة. تحظر مجلة Nature استخدام الصور المولدة بواسطة الذكاء الاصطناعي وتطلب من المراجعين عدم تحميل المخطوطات إلى أنظمة الذكاء الاصطناعي. بالإضافة إلى ذلك، أعلن موقع arXiv، وهو موقع إلكتروني يشارك فيه العلماء نتائج أبحاث المرحلة المبكرة، أنه سيحظر الباحثين الذين يقدمون مراجع وهمية لمدة عام واحد.
يستكشف المسؤولون في شركة Elsevier طرقًا لاستخدام الذكاء الاصطناعي بشكل مسؤول في الأبحاث. نائب الرئيس البروفيسور سارة ماين هو واحد منهم. يقول البروفيسور ماين: "إن ما نسميه "الذكاء الاصطناعي على مستوى البحث" يركز على إبقاء الباحثين متحكمين في أبحاثهم".
حقوق الطبع والنشر للصور أرشيف ديلي هيرالد / SSPL / غيتي إيماجز
هل يمكننا التأكد من أن عملاء الذكاء الاصطناعي يقومون بعمل جيد أثناء معالجة كميات هائلة من البيانات من مسرعات الجسيمات والفضاء والعالم الطبيعي؟
وهناك نقطة أخرى يجب القلق بشأنها. كيف يمكننا التأكد من أن عملاء الذكاء الاصطناعي لدينا لا يتجاهلون النتائج المهمة باعتبارها قيمًا متطرفة؟ إن اكتشاف البنسلين، والنشاط الإشعاعي، والنجوم الغريبة التي تسمى النجوم النابضة، كلها نتجت عن نتائج غريبة يمكن تجاهلها بسهولة. أصبحت هذه الاكتشافات التي قام بها الحدس البشري أعظم حدث علمي في القرن الماضي.
هل يستطيع الذكاء الاصطناعي حقًا إعادة إنتاج الإحساس البشري بالصدفة والبراعة؟
لا يعتقد البروفيسور كوهلي من Google DeepMind أن إدارة ظهورنا للذكاء الاصطناعي هو الحل. قال لي الأستاذ: "هذا مثل القول بأنه يجب عليك إجراء العمليات الحسابية دون استخدام الآلة الحاسبة". ومع ذلك، يعترف البروفيسور بأن الإشراف البشري ضروري. "وكلاء الذكاء الاصطناعي الحاليون غير كاملين. يجب على شخص ما أن يتحمل المسؤولية."
وحث البروفيسور كوهلي الباحثين على اتباع قواعد بسيطة. "عليك أن تفهم ما فعله الوكيل وتتحمل المسؤولية عنه. لا يمكنك فقط الإشارة إلى المشكلة ثم جعل الآلة تكتب ورقة وتقدمها على أنها الحقيقة."
وقد اتبعت البروفيسور أندريا باولي من مركز فيينا الحيوي في النمسا هذه القاعدة في بحثها.
أمضى البروفيسور باولي ما يقرب من عقد من الزمن في حل سؤال لم تتم الإجابة عليه من قبل: كيف تدخل الحيوانات المنوية إلى البويضات، وقد ساعده الاستخدام الصحيح للذكاء الاصطناعي على الاقتراب من الإجابة. اكتشف مختبر البروفيسور باولي بروتينات على سطح بيض الزرد تشير إلى آلية القفل والمفتاح التي تسمح بدخول الحيوانات المنوية.
هذه الحالة هي بصيص أمل في خضم طوفان من الأبحاث التي تبدو تافهة حول الذكاء الاصطناعي. يمكن أن يكون الذكاء الاصطناعي مفيدًا.
هذه أيضًا قصة عن البشر. بعد وقت قصير من تأسيس Basecamp Research، وهو معهد أبحاث قمت بزيارته في موقع مصنع ساعات سابق في لندن، تم إدخال البروفيسور فينس المؤسس المشارك إلى المستشفى بسبب سرطان الدم (وقد تعافى الآن). دفعت هذه التجربة البروفيسور إلى اتخاذ قرار بتطوير نظام ذكاء اصطناعي من شأنه تحسين إمكانيات علاج السرطان. يقول البروفيسور: "لا أعرف ما إذا كان الأمر سينجح، لكن الأمر يستحق المحاولة".
"نحن على الطريق نحو علاج ممكن من الناحية التكنولوجية للسرطان."
هذا ليس وعدًا من البروفيسور فينس، بل توجيه. فهل سيحقق الذكاء الاصطناعي هذا الاتجاه علميا، أم أنه سيعمل على تآكل أساسه بهدوء؟ هذه هي المشكلة الكبيرة.
(مقال باللغة الإنجليزية: الخلاف بين علماء الرياضيات يغذي المخاوف من أن الذكاء الاصطناعي قد يقوض العلم)
