Сооснователь Anthropic предупреждает: искусственный интеллект приближается к границе выхода из-под контроля человека

Сооснователь компании по разработке искусственного интеллекта Anthropic Джек Кларк предупреждает, что новейшие модели ИИ начинают проявлять признаки выхода из-под контроля человека. Кларк призывает создать механизмы, которые позволили бы при необходимости замедлить развитие искусственного интеллекта.

Компания по разработке искусственного интеллекта Anthropic выступила с тревожным предупреждением: по словам сооснователя Джека Кларка, ИИ приближается к этапу, на котором сможет развиваться без участия человека.

Кларк подчеркнул, что новейшие модели искусственного интеллекта начали демонстрировать признаки, указывающие на возможный выход из-под контроля человека. Это означает, что в будущем системы могут самостоятельно совершенствовать свои возможности способами, которые их создатели не в состоянии предвидеть или контролировать.

Призыв создать «тормоза»

Сооснователь Anthropic призвал общественность и политиков разработать конкретные механизмы, с помощью которых можно было бы при необходимости сдерживать развитие искусственного интеллекта. По мнению Кларка, этот процесс не должен идти бесконтрольно — вне зависимости от того, насколько велики экономические интересы.

Anthropic — одна из ведущих мировых компаний в области исследований и разработки ИИ, известная прежде всего своим ИИ-ассистентом Claude. Ранее компания неоднократно подчёркивала важность безопасности искусственного интеллекта и активно способствует развитию публичной дискуссии в этой сфере.

Более широкая дискуссия об угрозах ИИ

Anthropic — не единственная компания, поднимающая подобные вопросы. Тема безопасности искусственного интеллекта в последнее время прочно вошла в повестку дня: учёные, предприниматели и регуляторы разных стран обсуждают, как обеспечить, чтобы развитие ИИ оставалось на службе интересов человечества. Предупреждение Anthropic добавляет в эту дискуссию новый и весомый голос.