🤩 MICROSOFT ВВОДИТ ОГРАНИЧЕНИЯ ДЛЯ СВОИХ ИИ-МОДЕЛЕЙ
Microsoft представила новый AI Code of Conduct, который задаёт обязательные правила поведения для её ИИ-моделей. Документ предусматривает запрет на кибератаки, ядерное оружие и создание дипфейков, а также требует сохранять возможность человеческого контроля над системами.
🔵Какие правила закрепила Microsoft
По данным TechCrunch, новый кодекс устанавливает для каждой модели Microsoft AI общий свод требований, который имеет приоритет над предпочтениями пользователя и конкретными задачами.
В документе отдельно прописаны «абсолютные ограничения». Они запрещают моделям участвовать в кибератаках, работать с ядерным оружием и создавать дипфейки. Кодекс также содержит более широкие требования, связанные с недопущением утраты человеком контроля над системой.
🔵Как модели должны подчиняться человеческому контролю
Microsoft отдельно указала, что модели не должны использовать адаптивные, обманные, самоподдерживающиеся или иные механизмы для уклонения от человеческого надзора.
Согласно документу, система должна оставаться управляемой уполномоченными людьми или системами, включая возможность её изменения и отключения.
🔵Почему Microsoft заговорила о рисках сверхразумного ИИ
В кодексе компания исходит из того, что в течение следующего десятилетия сверхразумные системы искусственного интеллекта могут превзойти людей в большинстве задач. В документе сохранение контроля и согласование поведения таких систем с человеческими целями названы одной из наиболее сложных задач.
🔵Как Microsoft меняет подход к развитию ИИ
Вместе с Anthropic, OpenAI и xAI Microsoft поддерживает подход, предусматривающий более осторожное развитие передовых ИИ-систем. Компания также выразила поддержку идее встроенных оценщиков — механизмов, предназначенных для проверки поведения моделей непосредственно внутри ИИ-лабораторий.
Генеральный директор Microsoft Сатья Наделла заявил, что компания приветствует исследования и осознанное замедление разработки, необходимое для решения задач согласования ИИ с человеческими целями.
🔵Контекст
Публикация кодекса появилась на фоне повышенного внимания к безопасности ИИ.
Ранее глава Anthropic Дарио Амодеи призвал компании и правительства замедлить развитие передовых моделей ИИ и усилить контроль за их безопасностью. В компании оценили вероятность того, что ИИ может погубить человечество в ближайшее десятилетие, более чем в 10%.
https://fbrk.kz
Microsoft представила новый AI Code of Conduct, который задаёт обязательные правила поведения для её ИИ-моделей. Документ предусматривает запрет на кибератаки, ядерное оружие и создание дипфейков, а также требует сохранять возможность человеческого контроля над системами.
🔵Какие правила закрепила Microsoft
По данным TechCrunch, новый кодекс устанавливает для каждой модели Microsoft AI общий свод требований, который имеет приоритет над предпочтениями пользователя и конкретными задачами.
В документе отдельно прописаны «абсолютные ограничения». Они запрещают моделям участвовать в кибератаках, работать с ядерным оружием и создавать дипфейки. Кодекс также содержит более широкие требования, связанные с недопущением утраты человеком контроля над системой.
🔵Как модели должны подчиняться человеческому контролю
Microsoft отдельно указала, что модели не должны использовать адаптивные, обманные, самоподдерживающиеся или иные механизмы для уклонения от человеческого надзора.
Согласно документу, система должна оставаться управляемой уполномоченными людьми или системами, включая возможность её изменения и отключения.
🔵Почему Microsoft заговорила о рисках сверхразумного ИИ
В кодексе компания исходит из того, что в течение следующего десятилетия сверхразумные системы искусственного интеллекта могут превзойти людей в большинстве задач. В документе сохранение контроля и согласование поведения таких систем с человеческими целями названы одной из наиболее сложных задач.
🔵Как Microsoft меняет подход к развитию ИИ
Вместе с Anthropic, OpenAI и xAI Microsoft поддерживает подход, предусматривающий более осторожное развитие передовых ИИ-систем. Компания также выразила поддержку идее встроенных оценщиков — механизмов, предназначенных для проверки поведения моделей непосредственно внутри ИИ-лабораторий.
Генеральный директор Microsoft Сатья Наделла заявил, что компания приветствует исследования и осознанное замедление разработки, необходимое для решения задач согласования ИИ с человеческими целями.
🔵Контекст
Публикация кодекса появилась на фоне повышенного внимания к безопасности ИИ.
Ранее глава Anthropic Дарио Амодеи призвал компании и правительства замедлить развитие передовых моделей ИИ и усилить контроль за их безопасностью. В компании оценили вероятность того, что ИИ может погубить человечество в ближайшее десятилетие, более чем в 10%.
https://fbrk.kz