Исследование ИИ ошеломило учёных: на пороге ли мы опасного будущего

Международная группа ученых из Германии и Великобритании провела исследование, чтобы выяснить, могут ли модели искусственного интеллекта (ИИ) выйти из-под контроля и создать угрозу для человечества. Результаты исследования были опубликованы на сайте Ассоциации компьютерной лингвистики (ACL).

Ученые сосредоточили свое внимание на так называемых эмерджентных способностях — навыках, которые возникают у ИИ самостоятельно, а не закладываются в программу разработчиками.

Для проверки этой гипотезы команда провела эксперименты с четырьмя различными ИИ-моделями, ставя перед ними задачи, которые ранее были определены как эмерджентные. Цель состояла в том, чтобы определить, могут ли эти модели изобретать новые способы выполнения заданий или же они просто действуют в рамках предопределенного алгоритма.

Результаты показали, что все изученные модели способны объяснить свои действия через способность следовать инструкциям, запоминание и языковую компетентность. Ученые не обнаружили признаков того, что эти модели проявляют независимое поведение.

"Были опасения, что с увеличением размеров моделей они смогут решать задачи, которые сегодня невозможно предсказать, что могло бы привести к появлению опасных способностей, таких как рассуждение и планирование. Однако наше исследование показывает, что опасения относительно того, что модели могут выйти из-под контроля и совершить что-то неожиданное и потенциально опасное, не обоснованы", — заявила соавтор исследования Тайяр Мадабуши.

Исследователи подчеркнули, что, хотя современные модели ИИ не обладают интеллектом в полном смысле этого слова, это не означает, что они абсолютно безопасны и не представляют угрозы.

Фото: commons.wikimedia.org/Kharsohtun (Creative Commons Attribution-ShareAlike 4.0 International).