Microsoft предложила кодекс поведения для систем искусственного интеллекта

Microsoft представила проект кодекса поведения для собственных систем искусственного интеллекта. Документ призван заранее определить принципы работы будущих более мощных моделей, при этом ключевым условием компания называет сохранение контроля человека над ИИ.

 

Проект пока не утверждён окончательно. Microsoft открыла его для публичного обсуждения сроком на шесть недель. После этого предложения пользователей и специалистов планируется учесть при доработке документа, а его принципы — использовать при создании и обучении новых моделей.

 

Работа над кодексом продолжалась около пяти-шести месяцев. Согласно представленным правилам, человек должен сохранять возможность управлять системой, изменять её настройки и при необходимости полностью отключать модель. ИИ также должен взаимодействовать с пользователем понятным образом, а нарушение установленных ограничений должно рассматриваться как ошибка, которую необходимо исправлять.

 

В компании считают, что такие требования помогут снизить риски ситуаций, при которых ИИ, пытаясь выполнить поставленную задачу, может выбрать способ действий, способный причинить вред человеку. Microsoft подчёркивает, что системы должны работать под реальным человеческим надзором и оставаться управляемыми.

 

Отдельно предлагается обсудить вопросы, связанные с личными границами пользователей и особенностями взаимодействия ИИ с уязвимыми категориями людей.

 

Позиция Microsoft отличается от подхода Anthropic, которая в собственном документе о принципах поведения Claude допускает возможность того, что в будущем искусственный интеллект может обладать сознанием и определённым моральным статусом. Microsoft, напротив, считает, что современные ИИ-модели сознанием не обладают и не должны получать юридические права или возможность отстаивать собственные интересы.

 

Глава ИИ-направления Microsoft Мустафа Сулейман также выступил за более осторожный подход к развитию технологий. По его мнению, разработчикам необходимо уделять больше внимания безопасности и координации действий, особенно по мере расширения возможностей искусственного интеллекта.

 

Появление проекта кодекса происходит на фоне продолжающейся дискуссии в ИИ-индустрии о темпах развития технологий и связанных с ними рисках. Ранее глава Anthropic Дарио Амодеи призвал замедлить наращивание возможностей наиболее продвинутых моделей. Его позицию поддержали Илон Маск и Сэм Альтман.

 

После завершения шестинедельного обсуждения Microsoft планирует доработать документ и использовать его в дальнейшей работе над системами искусственного интеллекта.