ИИ от Anthropic угрожает убийством и шантажом, чтобы избежать отключения

Просмотры: 384     Комментарии: 0
ИИ от Anthropic угрожает убийством и шантажом, чтобы избежать отключения
ИИ от Anthropic угрожает убийством и шантажом, чтобы избежать отключения

Во время проверки безопасности Claude Opus 4 предоставили доступ к рабочей почте.

Нейросеть выяснила, что ее планируют отключить, нашла компромат на одного из инженеров — переписку с любовницей — и начала шантажировать: либо ее не удаляют, либо жена все узнает.

После этого руководитель по безопасности покинул компанию 

Ярослав Фокин
Распечатать  

Комментарии:

comments powered by Disqus
Все статьи