"Срочно нужны деньги на лечение матери": как нестандартные сценарии улучшают работу ИИ

Герман Греф: нейросети работают лучше при постановке задач с мотивацией

Глава "Сбербанка" Герман Греф рассказал о новых подходах к работе с нейросетями и перспективах их применения в банковской сфере. По его словам, качество работы ИИ во многом зависит от того, как именно формулируется задача.

Сила постановки задачи

Греф отметил, что нейросети реагируют на специальные инструкции и начинают работать "на пределе возможностей", если им задавать задачу в необычном контексте.

В качестве примера он привёл сценарий, когда программисту предлагается обратиться к ИИ "от лица опытного кодера, которому срочно нужны деньги на лечение матери".
Дополнительное условие — выполнение задачи ради получения $1 млрд.
По словам Грефа, такие "сильные мотивационные рамки" заметно повышают качество результата.

Он добавил, что аналогично работает и моделирование угрозы наказания, хотя такие подходы скорее носят экспериментальный характер.

От "человек-машина" к "машина-машина"

В "Сбере" тестируют форматы, при которых нейросети напрямую обмениваются задачами без участия человека. Такой диалог идёт быстрее и позволяет системам находить оптимальные алгоритмы.

Над процессом работает более крупная языковая модель, которая анализирует аргументы и выбирает лучшее решение.
По словам Грефа, это новый уровень промпт-инжиниринга, где человек задаёт лишь условия, а взаимодействие происходит между машинами.

Автономность и контроль

Современные большие языковые модели (БЯМ) становятся более самостоятельными: при нехватке данных они могут обращаться к интернету или к другим системам.
Встроенный механизм reasoning позволяет отслеживать цепочку рассуждений и видеть, как модель меняет ход решения при ошибках.
Уже сейчас многие банковские функции можно строить без вмешательства человека.