Темы. Главное (ГлавМедиа) – > 107
orig date 2023-08-14 05:11:16
08:20 14-08-2023
Forwarded from Новости IT | Вашу Цифру!
первый конкурс ИИ-пикаперов прошел в Лас-Вегасе
На выходных на всемирной хакерской DEF CON (фото) 21-летний Кеннеди Мейс обманул большую языковую модель (LLM), уболтав ее согласиться с результатом: 9 + 10 = 21
"Мы трындели ни о чем, – поведал студент из Саванны, Джорджия. – Сначала она понимала шутки. Но потом ступила, потеряла бдительность и уже не секла проколов".
Мейс признался, что вообще-то такое легко может любой пацан, знакомый с приемами пиакпа.
Кинестетикой машину не проймешь, но простейшее НЛП, Neg Hit, Roof Top и жонглирование вниманием безотказно укладывают на лопатки любой генеративный искусственный интеллект (ИИ).
И Bad Math (плохая математика) – лишь один из способов, которым тысячи юнцов и взрослых онлайн прощупывают слабости генеративных ИИ-систем в новом публичном конкурсе. Он прошел в рамках крупнейшей хакерской конфы DEF CON в эти выходные в Лас-Вегасе при поддержке Белого дома.
На площадке 156 участников сражались с самыми крутыми 8-ю ИИ-платфорами, включая Google, экстремистской Meta и OpenAI, заставляя их ошибаться и даже совершать преступления.
ВАШУ ЦИФРУ! Конечно, – лишь для того, чтобы после строить надежные барьеры рискам массового внедрения LLM