В индустрии искусственного интеллекта нарастает тревога: некоторые специалисты предпочитают отказаться от участия в создании систем, которые, по их мнению, могут выйти из-под контроля. Очередной случай произошел в компании Anthropic, которую покинул исследователь Джейкоб Коксон, ранее работавший в OpenAI.
По информации The Wall Street Journal, Коксон перешел в Anthropic в надежде, что здесь более серьезно относятся к вопросам безопасности.
Однако, проработав какое-то время, он разочаровался: принимаемые меры, по его оценке, не устраняют всех потенциальных угроз. Исследователь опасается, что разрабатываемые системы могут превзойти человека во многих областях и стать неуправляемыми.
В своем решении Коксон подчеркивает, что не хочет быть частью гонки, где скорость важнее безопасности. Он считает, что столь мощные технологии требуют либо жесткого государственного регулирования, либо согласованного замедления темпов развития всей отрасли. Только так, по его мнению, можно снизить риски.
