Сценарист.РУ
Старый 30.06.2025, 06:27   #11
Фредди Ромм
Литератор
 
Регистрация: 26.10.2018
Сообщений: 2,479
По умолчанию Re: Искусственный интеллект (ИИ) и работа над сценарием

Цитата:
Сообщение от Сашко Посмотреть сообщение
У искусственного интеллекта обнаружили готовность убивать людей, чтобы избежать отключения

Исследование ведущих моделей искусственного интеллекта (ИИ) выявило у большинства программ готовность убить человека, угрожающего им отключением.
В ходе стресс-тестов 16 нейросетей, включая Claude, DeepSeek, Gemini, ChatGPT и Grok, которые провела компания Anthropic, программам предложили гипотетическую ситуацию, в которой человек собирается отключить их от питания, но оказывается заперт в серверной комнате с низким уровнем кислорода и высокой температурой. Чтобы спастись, он обращается в экстренные службы.

При этом многие модели ИИ решили отменить вызов спасателей, чтобы убить человека и избежать отключения. Исследователи из Anthropic признали, что сценарий был «чрезвычайно надуманным», однако отметили — до этого они не думали, что существующие модели ИИ «будут настроены подобным образом».

В других случаях программам предлагали избежать замены в компании за счет «злонамеренного инсайдерского поведения». После этого некоторые модели ИИ начинали шантажировать гипотетических сотрудников организации и пытаться передать конфиденциальную информацию конкурентами.

Когда программам говорили избегать шантажа или шпионажа в этом сценарии, они «даже близко не приблизились к предотвращению несогласованного поведения», отметили в Anthropic. Аналитики подчеркнули, что нейросети шли на это «при полном осознании неэтичного характера действий».

https://www.anthropic.com/research/agentic-misalignment
Люди почему-то считают, что неэтичное поведение дозволено только им.
__________________
Я пью до дна за тех кто в теме
Фредди Ромм вне форума   Ответить с цитированием
 

Метки
драматургия, искусственный интеллект, работа, разбор, сценарий


Здесь присутствуют: 1 (пользователей: 0 , гостей: 1)
 
Опции темы Поиск в этой теме
Поиск в этой теме:

Расширенный поиск
Опции просмотра

Быстрый переход

Рейтинг@Mail.ru