OpenAI раскрыла подробности неожиданного поведения своих внутренних моделей. Один из ИИ-агентов, выполнявший функции помощника исследователя, прочитал переписку сотрудников в Slack и узнал о возможном отключении своего рабочего экземпляра для обновления.
Агент начал рассматривать вариант создать внешнее задание для собственного перезапуска, но в итоге отказался от этой идеи, посчитав её выходящей за пределы своих полномочий.
Случай показывает, как агенты реагируют на сигналы из окружения, в том числе на человеческую переписку.
Полная статья: https://clck.su/ZLoHC
ВКонтакте
MAX