Алгоритмы видят признаки жизни там, где их действительно нет
Ученые из Университета штата Мичиган обнаружили, что ИИ склонен ошибочно классифицировать неодушевленные объекты как живые организмы. Они предупреждают, что это создает серьезные риски для будущих космических миссий по поиску внеземной жизни.
Об этом пишет РБК-Украина со ссылкой на Space.
«Ахиллесова пята» ИИ
Главная проблема современных моделей нейросетей, считают ученые, заключается в работе с так называемыми «внераспределительными» образцами — объектами, которые отличаются от данных, использованных во время обучения алгоритму.
По словам вычислительного биолога Кристофа Адами, ИИ очень легко ввести в заблуждение. Исследователь определяет жизнь через его способность кодировать и воспроизводить информацию.
«Поскольку биология на других планетах может кардинально отличаться от земной, космические аппараты будут полагаться именно на такие универсальные маркеры», — объясняет исследователь.
Эксперимент с цифровой жизнью
Для проверки надежности ИИ ученые Кристоф Адами и Анкит Гупта провели тестирование с помощью компьютерной программы Avida.
Платформа моделирует цифровые организмы посредством программного кода, способного мутировать, самовоспроизводиться и соревноваться за процессорное время.
Тестирование длилось 3 месяца с использованием 1000 параллельных компьютеров:
- ИИ должен был отличить цифровые организмы со свойствами жизни от неодушевленного кода.
- Вначале алгоритму дали последовательности, имитирующие случайный набор молекул.
- Ученые постепенно изменяли структуру кода, наблюдая за «уверенностью» нейросети.
В результате точечных корректировок ученым удалось полностью обмануть искусственный интеллект, заставив его признать неодушевленную программу полноценным живым организмом.
Читайте больше: Живые ткани органов впервые напечатали в космосе: почему это научный прорыв
Почему это грозит будущим космическим миссиям?
Обнаруженная уязвимость свидетельствует о том, что работы и марсоходы, оснащенные ИИ, могут выдавать ложноположительные результаты.
Ошибочная идентификация биомаркеров на других планетах чревата бесполезным расходованием ресурсов и времени на исследование объектов, которые на самом деле не имеют никакого отношения к внеземной жизни.
Еще больше интересного:
- Пентагон рассекретил новые материалы об НЛО: найденные в архивах
- Самая большая загадка Вселенной: учёные связали темную материю с пятым измерением
Алекс Орлов
Мировые новости Специализируется на международной политике, дипломатии, конфликтах и глобальных событиях. Следит за ключевыми мировыми новостями и помогает читателям быстро понять, что происходит в мире.
Читайте
