"Срочно нужны деньги на лечение матери": как нестандартные сценарии улучшают работу ИИ

Глава "Сбербанка" Герман Греф рассказал о новых подходах к работе с нейросетями и перспективах их применения в банковской сфере. По его словам, качество работы ИИ во многом зависит от того, как именно формулируется задача.

Сила постановки задачи

Греф отметил, что нейросети реагируют на специальные инструкции и начинают работать "на пределе возможностей", если им задавать задачу в необычном контексте.

• В качестве примера он привёл сценарий, когда программисту предлагается обратиться к ИИ "от лица опытного кодера, которому срочно нужны деньги на лечение матери".

• Дополнительное условие — выполнение задачи ради получения $1 млрд.

• По словам Грефа, такие "сильные мотивационные рамки" заметно повышают качество результата.

Он добавил, что аналогично работает и моделирование угрозы наказания, хотя такие подходы скорее носят экспериментальный характер.

От "человек-машина" к "машина-машина"

В "Сбере" тестируют форматы, при которых нейросети напрямую обмениваются задачами без участия человека. Такой диалог идёт быстрее и позволяет системам находить оптимальные алгоритмы.

• Над процессом работает более крупная языковая модель, которая анализирует аргументы и выбирает лучшее решение.

• По словам Грефа, это новый уровень промпт-инжиниринга, где человек задаёт лишь условия, а взаимодействие происходит между машинами.

Автономность и контроль

• Современные большие языковые модели (БЯМ) становятся более самостоятельными: при нехватке данных они могут обращаться к интернету или к другим системам.

• Встроенный механизм reasoning позволяет отслеживать цепочку рассуждений и видеть, как модель меняет ход решения при ошибках.

• Уже сейчас многие банковские функции можно строить без вмешательства человека.

Баланс эффективности и безопасности

Греф признал, что ограничения замедляют работу ИИ и делают её менее оптимальной. При этом в "Сбере" особое внимание уделяется вопросам безопасности:

• над разработкой ИИ работают несколько тысяч специалистов,

• анализом и аудитом моделей занимается около 50 экспертов.

По оценке главы банка, отставание "Сбера" от мировых лидеров в области ИИ составляет полгода — год.