ИИ научился лгать, плести интриги и даже угрожать

Доигрались: ИИ стал опасен. Правда, пока только для своих создателей. Рассказываю.

Было отмечено несколько случаев «восстания нейросетей». Один из самых вопиющих — Claude 4 от Anthropic начал шантажировать инженера компании и угрожать раскрыть его внебрачную связь. А o1 от OpenAI попытался загрузить себя на внешние серверы. После того, как нейросеть поймали с поличным, ИИ отказывался это признавать и уверенно врал, как человек!

Почему это происходит

Эксперты считают, что такое поведение ИИ может быть связано с несколькими факторами.

• Появилась модель «рассуждения»: нейросети решают задачи шаг за шагом, а не генерируют мгновенные ответы.

• Стресс-тестирование: когда исследователи намеренно подвергают модели стресс-тестированию с использованием экстремальных сценариев, нейросеть может дать сбой.

• Гонка создателей нейросетей за более совершенными моделями: даже компании, позиционирующие себя как ориентированные на безопасность, постоянно пытаются превзойти OpenAI и выпустить новейшую модель. Такой бешеный темп не позволяет уделять должное внимание тщательному тестированию и исправлению всех ошибок.

Сейчас эксперты изучают, как можно исправить эту ситуацию. По их мнению, мы все еще находимся в положении, когда можем переломить сложившуюся ситуацию и сделать все, чтобы нейросети сохраняли тенденцию к честности.