Сотрудник Microsoft предупреждает законодателей и Федеральную торговую комиссию о вредном ИИ-контенте

Инженер-программист Microsoft недавно забил тревогу по поводу безопасности инструмента компании для создания изображений с использованием искусственного интеллекта Copilot Designer. В письмах, адресованных совету директоров Microsoft, законодателям и Федеральной торговой комиссии (FTC), Шейн Джонс подчеркнул потенциальные риски, связанные с этим инструментом.

Джонс обнаружил уязвимость безопасности в модели генератора изображений DALL-E OpenAI, которая встроена во многие инструменты искусственного интеллекта Microsoft, включая Copilot Designer. Эта уязвимость позволила ему обойти ограждения, предназначенные для предотвращения создания вредоносных изображений.

Несмотря на публичную рекламу Copilot Designer как безопасного продукта искусственного интеллекта для всех пользователей, включая детей, Джонс утверждал, что Microsoft осознавала системные проблемы, приводящие к созданию оскорбительного и неприемлемого контента.

Copilot Designer иногда создает сексуально объективированные изображения женщин. Инструмент искусственного интеллекта также создает вредный контент, связанный с политической предвзятостью, употреблением алкоголя и наркотиков несовершеннолетними, неправомерным использованием корпоративных товарных знаков и авторских прав, теориями заговора и религией.

Джонс призвал Майкрософт временно удалить Copilot Designer из публичного использования до тех пор, пока не будут реализованы более эффективные меры безопасности. Он подчеркнул необходимость прозрачности и осведомленности потребителей о рисках, связанных с ИИ, особенно при маркетинге продуктов для детей.

Федеральная торговая комиссия подтвердила получение письма Джонса, но отказалась от дальнейших комментариев. Этот инцидент подчеркивает растущую обеспокоенность по поводу того, что инструменты ИИ непреднамеренно создают вредоносный контент. Приверженность Microsoft решению этих проблем будет иметь решающее значение для обеспечения ответственного развертывания ИИ.

Критика отражает растущие опасения по поводу склонности инструментов ИИ создавать потенциально вредный контент. Microsoft недавно объявила о расследовании сообщений о том, что ее чат-бот Copilot давал сбивающие с толку ответы, включая противоречивые сообщения о самоубийстве.

В феврале флагманский продукт искусственного интеллекта Alphabet Inc., Gemini, подвергся тщательной проверке за создание исторически неточных сцен в ответ на запросы изображений людей. Джонс также общался с Комитетом по окружающей среде, социальной и государственной политике совета директоров Microsoft, в который входят такие члены, как Пенни Притцкер и Рид Хоффман.

В своем письме Джонс отметил: «Я считаю, что нам не следует ждать, пока государственное регулирование обеспечит прозрачность для потребителей в отношении опасностей ИИ. В соответствии с нашими корпоративными убеждениями, мы должны активно и прозрачно раскрывать известные опасности ИИ, особенно когда продукт ИИ активно продается детям.

По мере развития цифрового ландшафта предостерегающая история, рассказанная сотрудником Microsoft, служит маяком для активного регулирования и этического внедрения ИИ. Давайте объединимся, чтобы сформировать более безопасное и информированное будущее, в котором технологии расширяют возможности без вреда.

В цифровом мире, где искусственный интеллект обладает огромной властью, Шейн Джонс, невоспетый герой за кулисами, сообщил о Copilot Designer — на первый взгляд невинном генераторе изображений искусственного интеллекта, который таит в себе темную тайну. Давайте объединимся, чтобы сформировать более безопасное и информированное будущее, в котором технологии расширяют возможности без вреда.