ИИ широко используется, но законодатели установили мало правил

Экран приветствия приложения OpenAI «ChatGPT» отображается на экране ноутбука на фотоиллюстрации. Все больше штатов рассматривают возможность регулирования искусственного интеллекта и других автоматизированных систем. Леон Нил/Getty Images.

Осенью 2016 года Департамент по делам детей и семьи Коннектикута начал использовать инструмент прогнозного анализа, который обещал помочь идентифицировать детей, находящихся в непосредственной опасности.

Инструмент использовал более двух десятков точек данных для сравнения открытых дел в системе Коннектикута с предыдущими делами по социальному обеспечению с плохими результатами. Затем каждый ребенок получил прогностическую оценку, которая отметила некоторые случаи, требующие более быстрого вмешательства.

Однако, несмотря на то, что все больше штатов начали использовать этот инструмент, некоторые агентства обнаружили, что он, похоже, упускает из виду срочные случаи и неточно отмечает менее серьезные. Исследование, опубликованное позже в журнале Child Abuse & Neglect, показало, что это не улучшило результаты лечения детей. Коннектикут и ряд других штатов отказались от инструмента, разработанного частной компанией во Флориде. В 2021 году — через пять лет после того, как Департамент по делам детей и семьи штата Коннектикут впервые применил этот инструмент, и через два года после того, как штат отказался от него — исследователи Йельского университета запросили информацию о механизме его работы и пришли к выводу, что агентство никогда не понимало его.

«Это огромная, огромная проблема публичной ответственности», — сказала Келси Эберли, клинический преподаватель Йельской школы права. «Агентства получают эти инструменты, они их используют, они им доверяют — но они даже не обязательно понимают их. И общественность, конечно, не понимает эти инструменты, потому что они о них не знают».

Коннектикут — последний штат, в котором приняты четкие правила для искусственного интеллекта и других автоматизированных систем, отчасти благодаря наследию инструмента для выявления детей из группы риска. Двухпартийный законопроект, принятый 30 мая и который, как ожидается, подпишет губернатор-демократ Нед Ламонт, потребует от государственных агентств провести инвентаризацию и оценку любых правительственных систем, использующих искусственный интеллект, и создать постоянную рабочую группу для рекомендации дальнейших правил.

Многие штаты уже регулируют аспекты этих технологий посредством законов о борьбе с дискриминацией, защите прав потребителей и конфиденциальности данных. Но с 2018 года как минимум 13 штатов создали комиссии по изучению именно ИИ, а с 2019 года как минимум семь штатов приняли законы, направленные на смягчение предвзятости, повышение прозрачности или ограничение использования автоматизированных систем как в государственных учреждениях, так и в частном секторе. .

По данным Национальной конференции законодательных собраний штатов, только в 2023 году законодатели в 27 штатах, а также в Вашингтоне (округ Колумбия) и Пуэрто-Рико рассмотрели более 80 законопроектов, связанных с ИИ.

Инструменты искусственного интеллекта, определяемые в широком смысле как технологии, способные выполнять сложные задачи анализа и решения проблем, которые раньше были доступны людям, теперь часто определяют, что американцы видят в социальных сетях, какие студенты поступают в колледж и проходят ли кандидаты на собеседования.

По данным IBM Global AI Adoption Index, в 2022 году более четверти всех американских предприятий использовали ИИ в той или иной форме. Яркой иллюстрацией растущего повсеместного распространения ИИ является недавний законопроект о регулировании этой технологии в Калифорнии, который вызвал комментарии со стороны таких различных организаций, как торговая ассоциация продуктовой промышленности и профсоюз медсестер штата.

Но федеральное законодательство застопорилось, оставив регулирование местным органам власти и создав лоскутное одеяло из законов штатов и муниципалитетов.

«Соединенные Штаты в течение многих лет были очень либеральны в регулировании технологий», — сказал Даррел М. Уэст, старший научный сотрудник Центра технологических инноваций аналитического центра Брукингского института и автор книги об искусственном интеллекте. «Но поскольку мы видим ловушки отсутствия регулирования — спам, фишинг, массовую слежку — общественный климат и среда разработки политики изменились. Люди хотят, чтобы это регулировалось».

Интерес законодателей к регулированию технологий резко возрос во время этой законодательной сессии и, вероятно, будет расти еще больше в следующем году благодаря широкому распространению ChatGPT и других инструментов искусственного интеллекта, ориентированных на потребителя, сказал Джейк Морабито, директор Целевой группы по коммуникациям и технологиям в консервативный Американский совет законодательного обмена (ALEC), который выступает за меньшее регулирование.