Группа исследователей из Гонконгского университета науки и технологий, Университета науки и технологий Китая, Университета Цинхуа и Microsoft Research Asia разработала метод защиты чат-бота ChatGPT от джейлбрейк-атак, целью которых является вынуждение искусственного интеллекта (ИИ) выдавать вредные данные.
Этот простой метод использует системные подсказки, аналогичные методу самонапоминания в психологии, чтобы напоминать ChatGPT о необходимости предоставлять ответы, соответствующие определенным этическим правилам.
Исследование опубликовано в Nature Machine Intelligence (NMI).
Набор данных с примерами джейлбрейк-подсказок использовался для тестирования метода, и результаты показали снижение вероятности успешных джейлбрейк-атак с 67,21% до 19,34%. Исследователи считают, что этот метод можно дополнительно усовершенствовать для уменьшения уязвимости ИИ к подобным атакам и поощрения разработки других стратегий защиты, сообщает Газета.Ру.
РФ с начала года увеличила поставки газа в КНР на 13,2 процента
Российские поставщики за первые четыре месяца текущего года нарастили отправки голубого топлива в Китай более чем на 13 процентов. В абсолютных цифрах показатели достигли 2,415 миллиона тонн сжиженного природного газа на 1,455 миллиарда долларов, приводит свежую информацию главное таможенное управление КНР.
Иранский политолог: преемником Раиси станет человек с такими же взглядами
Газета Politico сообщила, что Эбрахим Раиси хотел сместить верховного лидера Ирана аятоллу Али Хаменеи Можтаба Хаменеи. На Западе предположили, что возможным наследником, который заменит Раиси, может стать сын Хаменеи.
Блогер Паркер: ОС Windows XP и Windows 2000 заражаются вирусами после подключения интернета
В последнем эксперименте блогера Эрика Паркера было показано, что устаревшие операционные системы Windows XP и Windows 2000 мгновенно заражаются вирусами сразу после подключения к интернету без защиты.
В РАН создали технологию отбора растений на засухоустойчивость
В России разработана уникальная технология отбора древесных растений на засухоустойчивость и солеустойчивость на ранней стадии их развития. Это позволяет ускорить процесс отбора, экономя ресурсы и площади.