Автор фото, Getty
Параб Гош, научный редактор
На месте бывшего часового завода в центре Лондона тихо работают ряды белых морозильников. Внутри находятся десятки маленьких коробочек со стеклянными пробирками со штрих-кодом. Всего в стеклянной пробирке содержится 100 миллиардов генов. По словам соучредителя учреждения доктора Оливера Винса, всего два таких ящика могут содержать в 10 раз больше информации, чем весь текст в Интернете.
Компания доктора Винса, Basecamp Research, планирует собрать как можно больше ДНК и разработать искусственный интеллект (ИИ), который сможет говорить на языке биологии. Это тот же метод, который американские и китайские технологические компании используют для сбора огромных объемов литературы в Интернете и создания крупномасштабных языковых моделей (LLM), которые являются основой для сегодняшних систем искусственного интеллекта.
Доктор Винс, как и многие представители бизнеса и научных кругов, считает, что ИИ значительно ускорит научные исследования. Однако в то же время критика и предупреждения в отношении ИИ растут.
В прошлом месяце компания Open AI, которая разработала и управляет чат-ботом с генеративным искусственным интеллектом Chat GPT, объявила, что решила одну из нерешенных проблем в математике, называемую «Проблема лотереи тысячелетия». Компания утверждает, что ее ИИ-агент решил задачу, связанную с уравнениями Навье-Стокса, за 88 часов. Математический институт Клэя, который выбирает «Задачу тысячелетия» и присуждает денежные призы тем, кто ее решит, заявил, что «похоже, решил ее», но отметил, что для рассмотрения проблемы потребуется время.
Но за несколько часов до объявления Open AI Тристан Бакмастер, математик из Нью-Йоркского университета, публично выразил свою обеспокоенность. Бакмастер сформировал независимую команду вместе с Левентом Альпоге, математиком, работающим на Anthropic, конкурента OpenAI.
Эта команда также работала над решением уравнений Навье-Стокса и сохранила черновик своих результатов в открытом инструменте кодирования ИИ Codex.
Бакмастер пояснил, что его коллеги-исследователи были проинформированы о том, что ход исследования был «передан» Open AI, но он не уточнил обстоятельства. Хотя он и задался вопросом, могли ли результаты его исследований, хранящиеся в Кодексе, помочь открыть исследования в области ИИ, он подчеркнул, что «никого ни в чем не обвиняет».
В Open AI заявили, что ни люди, ни ИИ не видят результаты других команд до их публикации. Однако изначально компания заявила, что «не может исключить» возможность, хотя и маловероятную, что анонимные данные об использовании ее продуктов помогли улучшить ее модели. Однако несколько дней спустя Бакмастер заявил, что подсказки Бакмастера в Кодексе никоим образом не оказали «какого-либо влияния на систему» за два месяца до объявления.
Это сложная история, и мы до сих пор до конца не понимаем, что произошло. Но это подчеркивает растущую проблему использования ИИ в науке. Обычно, когда мы слышим слово «ИИ», мы думаем о роботах, которые создают ужасающие генно-инженерные вирусы или химическое оружие, уничтожающее человечество. Однако есть более тонкие вопросы, которым уделяется меньше внимания. Проблема в том, что ИИ может подорвать доверие к научному процессу и поднять вопросы о новизне и точности исследований.
Есть еще одна проблема. Хорошо известен тот факт, что чат-боты с искусственным интеллектом, такие как Клод и Gemini от Google, иногда говорят вещи, которые не соответствуют действительности и кажутся галлюцинациями. Иногда мы говорим о фильмах, которых не существует, или о знаменитых цитатах, о которых никто не говорил. И теперь есть свидетельства того, что это явление становится все более очевидным в науке, что вызывает опасения, что в конечном итоге может стать трудно отличить настоящие научные открытия от вымыслов, созданных ИИ.
Все эти опасения угрожают подорвать или разрушить основы доверия, лежащие в основе научных исследований.
«Поворотный момент»
Научные журналы, хранители научной честности, находятся под угрозой со стороны ИИ. Считается, что эти журналы не способны справиться с огромным количеством искажений, которые создаст ИИ.
«Генераторный ИИ разрушил весь научный процесс», — сказал Далмит Сингх Чавла, научный журналист, который уже десять лет освещает мошенничество в исследованиях.
Г-н Чавла сообщил Би-би-си, что рецензентам по этике издателей - людям, которые проверяют представленные материалы на предмет точности и достоверности - "необходимо значительно увеличить свою численность и ресурсы, если они хотят хотя бы отдаленно участвовать в этой борьбе". Он добавил: «В нынешнем виде не похоже, что они это делают».
На первый взгляд ИИ кажется идеальным инструментом для продвижения научных исследований. Ученые имеют дело с огромными объемами информации. Например, телескопы и ускорители частиц собирают миллиарды точек данных, которые слишком велики для человеческого мозга, чтобы их можно было понять. ИИ может выделять важные с научной точки зрения моменты из обыденной информации вокруг него.
Ведущей научной компанией в области искусственного интеллекта является Google DeepMind, базирующаяся в Великобритании. В 2020 году компания решила одну из самых больших загадок биологии: как белки складываются в точные формы в живых организмах.
Белки, которые можно назвать крошечными машинами, поддерживающими жизнедеятельность, играют самые разные роли в зависимости от их сложенной формы: от построения клеток и борьбы с инфекциями до формирования тканей и органов тела.
До появления искусственного интеллекта ученым приходилось проводить трудоемкие эксперименты в лаборатории. Позже компания Google DeepMind разработала модель искусственного интеллекта под названием «Альфафолд» и сумела точно предсказать структуру сворачивания 200 миллионов белков всего за один год.
Чтобы сделать это традиционным способом, потребовались бы сотни миллионов лет. Компания бесплатно предоставила исследователям результаты исследований. В 2024 году генеральный директор и главный научный сотрудник Google DeepMind совместно были удостоены Нобелевской премии по химии.
Все участники обнялись от радости по поводу этого события.
Доктор Пушмит Кохли, возглавляющий научные исследования компании, рассказал мне, что альфа-складку можно рассматривать как «переломный момент».
Сомнения в том, как работает ИИ?
Однако использование ИИ в научных областях также вызвало критику за преувеличение. Некоторые компьютерные модели обвиняются в преувеличении важности полученных ими результатов, а наблюдающие за ними исследователи-люди верят некоторым из их утверждений, не будучи достаточно скептичными.
Воодушевленная успехом Alphafold, Google DeepMind недавно начала концентрироваться на прогнозировании структуры новых материалов. Это исследование может привести к разработке более совершенных батарей, более дешевых солнечных элементов и электронных компонентов, не использующих редкоземельные элементы. В случае успеха, теоретически, споры о правах на добычу полезных ископаемых никогда больше не повторятся, и автономная территория Дании Гренландия будет защищена от риска вторжения.
Авторское право на изображение Хосе Сарменто Матос/Bloomberg через Getty Images
Модели искусственного интеллекта компании создали более 2 миллионов новых кристаллических структур, что компания называет «раскрытием почти 800-летних знаний одним махом». Около 380 000 из них считались достаточно перспективными для синтеза в лаборатории.
Но затем два химика из Калифорнийского университета сделали предупреждение. Энтони Читам и Рам Сешадри исследовали случайный образец нового кристалла. В статье, опубликованной в журнале Chemistry of Materials, пара пришла к выводу, что они не обнаружили «никаких поразительно новых соединений», и заявили, что многие из них представляют собой «незначительные модификации известных материалов». Они отметили, что метод анализа не был неправильным, но что результаты необходимо дополнительно изучить и проверить химиками-людьми.
Google DeepMind оспаривает их утверждения и заявляет, что проверила каждое соединение на новизну. Компания утверждает, что она упускает суть, заключающуюся в том, что если структура знакома, то она не нова. Многие из наиболее полезных сегодня материалов, от деталей сотовых телефонов до солнцезащитных кремов, были созданы путем замены всего лишь одного атома.
Исследования как «мусор»
По крайней мере, в этих случаях научные данные в целом были верными, а проблема заключалась в том, что ИИ, возможно, переоценил свою важность.
Но, возможно, еще более серьезной проблемой является растущий риск того, что научные журналы будут загрязнены так называемыми «помоями», производимыми ИИ. В данном случае провал ИИ означает, что компьютеры, а не люди-ученые, пишут исследовательские работы и правдоподобно создают в них фальшивые цитаты и фиктивные статьи.
В 2024 году профессор Дмитрий Ковак, ученый-компьютерщик из Гентского университета в Бельгии, провел поиск в более чем 1 миллионе биомедицинских исследовательских работ по ключевым словам, предпочитаемым студентами магистратуры, использующими ИИ для генерации предложений. К декабрю прошлого года его команда обнаружила, что почти 90% бумаг содержат следы ИИ. Технология обнаружения ИИ несовершенна, и некоторые программы могут ошибочно идентифицировать Конституцию США, написанную в 1780-х годах, как «созданную ИИ». Но профессор Кобач был потрясен, увидев, что ИИ используется в таких больших масштабах.
«Какие бы предубеждения ни были у LLM, они внезапно пронизывают всю (научную) литературу», — сказал он журналу Nature.
Профессор Кобач — один из многих исследователей, обеспокоенных тем, что ИИ постепенно разрушает научные журналы.
Это важно. Научные статьи являются источником жизненной силы научного прогресса. Когда открытие будет опубликовано, другая исследовательская группа в другой части мира может получить финансирование для развития этого открытия.
Авторское право на изображение: Universal History Archive/Universal Images Group через Getty Images
Процесс рецензирования, при котором научные статьи перед публикацией проверяются другими учеными, также подрывается.
Проанализировав отчеты о рецензировании, представленные четырем крупным обществам компьютерных наук, группа под руководством Вэйсиня Лиана и Джеймса Цзоу из Стэнфордского университета обнаружила, что до 17% текста были значительно изменены с использованием языковых моделей.
Важным элементом обеспечения достоверности научной статьи является то, что первый автор перечислит предыдущие исследования и продемонстрирует, что его или ее работа действительно новая. Это называется цитированием. Другая группа из Корнелльского университета обнаружила, что, когда исследователи использовали ИИ для сбора цитат, ИИ создавал фейковые исследования. В прошлом году было упомянуто около 147 000 фиктивных исследований.
Если ИИ продолжит таким образом искажать целостность академического процесса, исследователи окажутся в затруднительном положении, государственные средства будут потрачены впустую, а законные результаты исследований, такие как новые лекарства и зеленые технологии, будут отложены или вообще не будут реализованы.
«ИИ исследовательского уровня»
Некоторые издатели научных журналов, такие как Elsevier, предпринимают шаги, чтобы избежать углубляющегося кризиса доверия.
Команда исследовательской этики Elsevier разработала около 100 индикаторов, позволяющих определить, когда статья нуждается в более тщательной проверке человеком. Nature запрещает использование изображений, созданных искусственным интеллектом, и предписывает рецензентам не загружать рукописи в системы искусственного интеллекта. Кроме того, arXiv, веб-сайт, на котором ученые делятся результатами ранних исследований, объявил, что запретит исследователям, предоставляющим фиктивные рекомендации, сроком на один год.
Представители Elsevier изучают способы ответственного использования ИИ в исследованиях. Вице-президент профессор Сара Мэйн — одна из них. «То, что мы называем «ИИ исследовательского уровня», направлено на то, чтобы исследователи могли контролировать свои исследования», — говорит профессор Мейн.
Авторское право на изображение Daily Herald Archive/SSPL/Getty Images
Можем ли мы быть уверены, что агенты ИИ хорошо справляются со своей работой, обрабатывая огромные объемы данных из ускорителей частиц, космоса и мира природы?
И есть еще один момент, о котором стоит беспокоиться. Как мы можем быть уверены, что наши ИИ-агенты не упускают из виду важные результаты как выходящие за рамки? Открытие пенициллина, радиоактивности и странных звезд, называемых пульсарами, произошло в результате странных результатов, которые можно было легко игнорировать. Эти открытия, сделанные человеческой интуицией, стали величайшим научным событием прошлого столетия.
Может ли ИИ действительно воспроизвести человеческое чувство интуиции и изобретательности?
Профессор Кохли из Google DeepMind не считает, что отказ от искусственного интеллекта — это ответ. «Это все равно, что сказать, что вам следует производить расчеты без калькулятора», — сказал мне профессор. Однако профессор признает, что человеческий надзор необходим. «Нынешние агенты ИИ несовершенны. Кто-то должен взять на себя ответственность».
Профессор Кохли призвал исследователей следовать простым правилам. «Вы должны понять, что сделал агент, и взять на себя ответственность за это. Вы не можете просто указать на проблему, а затем заставить машину написать документ и представить его как правду».
Профессор Андреа Паули из Венского биоцентра в Австрии следовала этому правилу в своих исследованиях.
Профессор Паули потратил почти десять лет на решение ранее оставшегося без ответа вопроса: как сперма попадает в яйцеклетку, и правильное использование ИИ помогло ему приблизиться к ответу. Лаборатория профессора Паули обнаружила на поверхности яиц рыбок данио белки, которые предполагают наличие механизма «замок и ключ», позволяющего проникать сперматозоидам.
Этот случай — луч надежды среди потока, казалось бы, мусорных исследований в области ИИ. ИИ может быть полезен.
Это тоже история о людях. Вскоре после основания Basecamp Research, исследовательского института, который я посетил на месте бывшего часового завода в Лондоне, соучредитель профессор Винс был госпитализирован с лейкемией (сейчас он выздоровел). Этот опыт побудил профессора принять решение о разработке системы искусственного интеллекта, которая улучшила бы возможности лечения рака. «Я не знаю, сработает ли это, но попробовать стоит», — говорит профессор.
«Мы находимся на пути к технологически осуществимому лечению рака».
Это не обещание профессора Винса, а указание. Итак, сможет ли ИИ научно реализовать это направление или же он незаметно размоет его основу? Это большая проблема.
(Статья на английском языке: Конфликт между математиками усиливает опасения, что ИИ может подорвать науку)




