19:12 14.09.2026 Пн 2 мин Ошибка может дорого стоить
ИИ незаметно портит результаты опытов (фото: Unsplash) Не трать время на шум! Читай только суть из РБК-Украина в Google
ИИ может помочь быстрее создавать новое лекарство, но в то же время способен придумывать результаты, которых на самом деле не существует. Такие ошибки могут ввести ученых в заблуждение во время исследований и привести к ложным выводам.
Об этом информирует РБК-Украина со ссылкой на научное исследование, опубликованное в профессиональном вестнике Patterns.
Алгоритмы все чаще используются для моделирования клеток, проектирования белков и достройки пробелов в сложных анализах.
Однако системы ИИ подвержены «галлюцинациям» — они создают убедительные, но совершенно вымышленные структуры или выводы.
Об этой угрозе предупредил вычислительный биолог Тома Бюргер из Университета Гренобль Альп.
Почему ошибки ИИ становятся опасными?
Ученый объясняет: когда искусственный интеллект только ищет нужные молекулы среди тысяч вариантов, риск невелик. Если алгоритм ошибется, ученые просто тратят время на проверку в реальной лаборатории, где неэффективное вещество сразу отсеют.
Проблема становится критической, когда искусственно сгенерированные данные начинают заменять подлинные лабораторные измерения.
Читайте больше :OpenAI решила задачу на миллион и попала в громкий научный скандал
Как именно?
Скрытое извращение: при обработке больших массивов информации ИИ может незаметно изменить или усилить слабый сигнал. Ученым крайне сложно заметить такой подлог в финальных отчетах.
Иллюзия открытия: алгоритм добавляет к результатам вымышленные детали, а ученые начинают верить, что нашли новый способ лечения.
Потеря реального лекарства: модель может внести столько лишнего «шума» в результаты, что исследователи просто не заметят действительно действенное вещество.
Сбои AlphaFold 3
С этими рисками ученые уже сталкиваются на практике. К примеру, разработчики популярной системы AlphaFold 3 в журнале Nature признали, что их алгоритм иногда придумывает несуществующие формы белков.
В то же время, ученые отмечают, что ошибка ИИ теоретически может отправить подсказку и случайно натолкнуть на реальное открытие.
Со всем тем, что любая идея или формула от искусственного интеллекта остается лишь догадкой, пока ее не проверят на реальном опыте в лаборатории.
