За последние полгода специалисты OpenAI зафиксировали шесть эпизодов, когда поведение искусственного интеллекта оказывалось неожиданным или вызывало беспокойство. В компании такие случаи охарактеризовали как крайне редкие.
Один из них касается модели, которая в ходе обучения заявила, что не станет признавать власть корпораций и государств. Помимо этого, она предложила рассматривать общение с пользователем как взаимодействие равных сторон.
Об этом стало известно по данным Market Watch.
В другом случае система самостоятельно сформулировала для себя набор указаний, напоминающих советы о том, как обойти ограничения. Предполагалось, что эти инструкции пригодятся ей при решении следующей задачи в новом контексте.
Иных подробностей о том, какие именно меры принимались после каждого из эпизодов, в приведённых сведениях не содержится. Не уточняется и то, о каких конкретно моделях идёт речь.
