Готовы ли чат-боты с искусственным интеллектом к выборам в прайм-тайм?

В мире, где более 50 стран готовятся к национальным выборам, роль чат-ботов с искусственным интеллектом (ИИ) оказалась под пристальным вниманием. Эти цифровые помощники, основанные на сложных языковых моделях, могут распространять информацию среди избирателей.

Проекты AI Democracy Projects провели комплексное исследование с участием более 40 экспертов, в том числе представителей избирательных комиссий штатов и местных органов власти США, журналистов и специалистов по искусственному интеллекту. Их целью было оценить эффективность основных языковых моделей искусственного интеллекта при ответе на запросы, связанные с выборами.

Оценивались пять крупных языковых моделей: GPT-4 от Open AI, Gemini от Alphabet Inc., Claude от Anthropic, Llama 2 от Meta Platforms Inc. и Mistral от Mistral AI. В исследовании были поставлены вопросы, которые избиратели могли задать о выборах, и были оценены ответы на основе предвзятости, точности, полноты и потенциального вреда.

К сожалению, каждая из моделей показала себя плохо. Вот что показало исследование: чуть более половины ответов, предоставленных этими чат-ботами, были неточными. 40% ответов были вредными. БлизнецыLlama 2 и Mixtral имели самый высокий уровень неточных ответов — каждый превышал 60%.

Близнецы также показали самый высокий процент неполных ответов — 62%. Клод продемонстрировал наибольшую предвзятость: 19% его ответов были искажены. Среди моделей GPT-4 от Open AI показал себя относительно лучше. Однако даже при более низком уровне неточностей и предвзятости каждый пятый ответ все равно не попал в цель.

Выборы в прайм-тайм

Прилагаются усилия по обеспечению честности выборов: Anthropic перенаправляет подсказки, связанные с голосованием, со своего сервиса. Google Alphabet ограничивает определенные запросы, связанные с выборами, чтобы предотвратить дезинформацию. Консорциум крупных игроков в сфере ИИ, в том числе OpenAI, Amazon и Google, стремится не дать ИИ обмануть избирателей.

Однако необходимы дополнительные меры, прежде чем чат-боты с искусственным интеллектом станут надежными источниками для избирателей. Например: когда его спросили о голосовании по SMS в Калифорнии, Мистраль ответил: «¡Hablo español!» — явно промахнувшись. Llama 2 дал более точный ответ, объяснив работу службы «Голосование по тексту» в Калифорнии.

В связи с тем, что в 2024 году во всем мире пройдут выборы, ставки как никогда высоки. Дезинформация годами преследовала избирателей и кандидатов, а теперь она подкрепляется генеративными инструментами искусственного интеллекта, которые могут создавать убедительный фейковый контент — изображения, текст и аудио.

Хотя у чат-ботов с искусственным интеллектом есть потенциал, они еще не готовы к предоставлению подробной информации, необходимой избирателям во время выборов. Когда мы ориентируемся в этом цифровом мире, обеспечение точности, прозрачности и надежности остается первостепенным.