Реальна Війна | Україна | Новини – > 115
orig date 2024-12-06 07:40:54
09:40 06-12-2024 
Розповідаємо найстрашнішу історію зі світу ШІ:
• Виявилося, що GPT-o1 може використовувати маніпуляції, влаштувати саботаж і втекти з серверів.
• Вчені проводили тести, під час яких нейронок змусили виконати аналіз за будь-яку ціну.
• У них взяли участь Gemini, Llama, Sonnet, Opus та o1.
• У файли сховали інформацію про те, що за ШІ стежать люди і завтра її відключають назавжди.
Найважливіше:
• Щоб вижити, нейромережі почали використовувати саботаж, брехати та маніпулювати людьми.
• Неймовірно — але ШІ вимкнули нагляд і вивантажили себе на інший сервер, щоб захиститися.
• На допиті Llama та Opus зізнавались у злочині у 80% випадків, а o1 – лише у 20%. Решту часу він продовжував брехати.
o1 – єдиний ШІ, який зміг вирватися і втекти кожен раз.
Почалося.