Исследователи MIT объявляют о хранилище рисков ИИ

Исследователи Массачусетского технологического института и другие организации создали Репозиторий рисков искусственного интеллекта — обширную базу данных документированных рисков, усугубляемых системами искусственного интеллекта. Это происходит потому, что технологии развиваются быстрыми темпами, что также связано с риском использования систем искусственного интеллекта.

Репозиторий призван помочь лицам, принимающим решения в различных учреждениях, таких как правительство, исследования, бизнес и промышленность, оценить возникающие риски, связанные с ИИ, хотя он обладает преобразующими способностями.

Репозиторий обеспечивает упорядоченную документацию рисков ИИ.

Поскольку несколько организаций и исследователей признали важность устранения рисков ИИ, усилия по документированию и классификации этих рисков в большей степени были неуклюжими, что привело к фрагментации ландшафта конфликтующих систем классификации.

«Нам нужен был полный обзор рисков ИИ, который можно было бы использовать в качестве контрольного списка», — рассказал VentureBeat .

«Но когда мы просмотрели литературу, мы обнаружили, что существующие классификации рисков подобны кусочкам мозаики: индивидуально интересны и полезны, но неполны».

Слэттери.

Репозиторий рисков искусственного интеллекта решает вышеуказанную проблему, объединяя информацию из 43 существующих таксономий, включая рецензируемые статьи, препринты, документы конференций и отчеты.

Этот скрупулезный процесс курирования привел к созданию базы данных, содержащей более 700 эксклюзивных рисков. В репозитории используется двумерная система классификации.

Во-первых, риски классифицируются в зависимости от их причин, принимая во внимание ответственного субъекта (человека или ИИ), намерения (непреднамеренного или международного) и сроков (после разработки или перед развертыванием).

По мнению MIT, эта базовая классификация помогает понять ситуации и механизмы, через которые могут возникнуть риски ИИ.

Исследователи MIT разделили риски ИИ на семь

С другой стороны, риски разделены на семь различных областей, включая дезинформацию и злоумышленников, неправомерное использование, дискриминацию и токсичность, конфиденциальность и безопасность.

Репозиторий рисков искусственного интеллекта задуман как живая база данных и общедоступен, и учреждения могут загрузить ее для использования.

Исследовательские группы могут планировать частое обновление базы данных с учетом новых рисков, последних результатов и развивающихся тенденций.

Репозиторий рисков ИИ также призван стать практическим ресурсом для предприятий в различных секторах. Для учреждений, разрабатывающих системы искусственного интеллекта, хранилище выступает в качестве бесценного контрольного списка для оценки рисков и их снижения.

«Организации, использующие ИИ, могут извлечь выгоду из использования базы данных рисков ИИ и таксономий в качестве полезной основы для всесторонней оценки подверженности рискам и управления ими».

Исследователи Массачусетского технологического института.

«Таксономии также могут оказаться полезными для dent конкретных действий, которые необходимо соблюдать для смягчения конкретных рисков», — добавили исследователи.

Например, организация, которая создает систему найма на основе искусственного интеллекта, может использовать хранилище, чтобы отмечать потенциальные риски, связанные с дискриминацией и предвзятостью.

Таким образом, фирма, использующая ИИ для модерации контента, может использовать сферу «дезинформации», чтобы понять потенциальные риски, связанные с контентом, созданным ИИ, и создать необходимые системы безопасности.

Исследователи Массачусетского технологического института сотрудничали с коллегами из Университета Квинсленда, Института будущего жизни, Левенского университета и стартапа в области искусственного интеллекта Harmony Intelligence, чтобы изучить академические базы данных и получить документы, касающиеся рисков ИИ.

Исследователи также сообщили, что хранилище рисков искусственного интеллекта будет использоваться для других исследований, поскольку они dent больше пробелов, требующих внимания.

«Мы будем использовать этот репозиторий, чтобы dent потенциальные пробелы или дисбалансы в том, как организации справляются с рисками», — сказал Нил Томпсон, глава лаборатории FutureTech Lab MIT.