Глава Anthropic Амодеи назвал три шага для стандартизации ИИ
Директор корпорации Anthropic Дарио Амодеи выступил в Совете Безопасности ООН за создание международных стандартов безопасности в сфере искусственного интеллекта (ИИ). Об этом сказал во время выступления.
Он назвал три шага на пути к их появлению.
Первый — начать с узконаправленных соглашений, например запрета использовать ИИ для создания биологического оружия.
Второй шаг — создать системы проверки и верификации, соответствующие темпам развития ИИ. Это позволит государствам понимать возможности моделей и проверять соблюдение обязательств.
Третий шаг — обозначить общие стандарты тестирования моделей на риски потери контроля и неправомерного использования, а также создать систему уведомления об инцидентах.
Амодеи назвал угрозы, связанные с ИИ, самой важной проблемой глобальной безопасности. Ранее в СБ ООН выступил глава OpenAI Сэм Альтман, предупредивший об ускорении развития технологии.
Ещё одна страна захотела место в Совбезе ООН
США призвали стать главной страной в Тихом океане
Источник: www.mk.ru