Сооснователь Anthropic предупреждает: у искусственного интеллекта должна быть «педаль тормоза»

Сооснователь Anthropic Джек Кларк предупредил в эфире программы BBC Newsnight, что искусственный интеллект может достичь точки, в которой будет развиваться без участия человека. Кларк подчеркнул необходимость создания механизмов, которые позволят держать развитие ИИ под контролем.

Сооснователь компании по разработке искусственного интеллекта Anthropic Джек Кларк выступил в программе BBC Newsnight с тревожным предупреждением: искусственному интеллекту необходима так называемая «педаль тормоза», которая позволила бы людям при необходимости остановить его развитие.

Кларк пояснил, что ИИ может достичь такой стадии развития, на которой начнёт совершенствоваться без непосредственного участия человека. Это означало бы, что человечество утратит контроль над одной из самых мощных технологий за всю историю.

Anthropic — одна из ведущих мировых компаний в области исследований искусственного интеллекта, которая сама неоднократно подчёркивала важность безопасности при разработке ИИ. Компания известна своим ИИ-ассистентом Claude, который считается одним из главных конкурентов ChatGPT.

Выступление Кларка отражает растущую обеспокоенность экспертов в области ИИ тем, что отрасль развивается быстрее, чем законодатели и общество успевают к этому адаптироваться. Ряд видных технологов призвал к международному сотрудничеству в вопросе введения ограничений на развитие искусственного интеллекта.

Тема регулирования ИИ в последние годы стремительно вышла на первый план — как в ЕС, где был принят первый в мире закон, регулирующий искусственный интеллект, так и в США, где дискуссия продолжается по сей день.