Главным моделям искусственного интеллекта (ИИ) не хватает прозрачности
Команда исследователей из Стэнфорда, Массачусетского технологического института и Принстонского университета разработала систему оценок под названием «Индекс прозрачности базовой модели», которая оценивает 100 различных аспектов прозрачности ИИ.
Эти аспекты включают в себя раскрытие компанией того, как она строит свою базовую модель, как эта модель работает и как она используется в дальнейшем.
Согласно исследованию, которое призвано помочь политикам в регулировании быстро развивающихся технологий, моделям искусственного интеллекта явно не хватает прозрачности.
Главным моделям искусственного интеллекта не хватает прозрачности
Согласно исследованию, наилучшую оценку — 54 процента — получила Llama 2, модель искусственного интеллекта. GPT-4, флагманская модель компании OpenAI, поддерживаемой Microsoft, которая создала известного чат-бота ChatGPT, заняла третье место с результатом 48 процентов.
PaLM 2 от Google занимает пятое место с 40 процентами, чуть выше Claude 2 компании Anthropic, поддерживаемой Amazon, с 36 процентами.
Риши Боммасани, исследователь из Стэнфордского центра исследований моделей фундамента, считает, что компании должны стремиться к показателю от 80 до 100 процентов.
Исследователи заявили, что ни одна из 10 компаний не раскрывает информацию о том, сколько пользователей зависит от их моделей, и не предоставляет статистические данные о географических регионах или секторах рынка, которые используют их модели.
Стэнфорд заявил, что из-за меньшей прозрачности предприятиям сложнее понять, могут ли они безопасно создавать приложения, основанные на этих основополагающих моделях. Тем более это важно, так как скоро подавляющее количество компаний будут использовать ИИ в своих интерфейсах.
Это также может повлиять на ученых, которые используют эти модели для исследований, на политиков, которым необходимо понимать технологии регулирования, и на потребителей, чтобы понять ограничения этих моделей.
Индекс прозрачности для ИИ может быть использован политиками для принятия новых законов для отрасли
Поскольку технологии искусственного интеллекта быстро развиваются и быстро внедряются во многих отраслях, журналистам и ученым особенно важно понимать их конструкции и, в частности, исходные ингредиенты или данные, которые лежат в их основе.
Исследователи надеются, что их индекс будет использоваться для информирования политиков в правительствах, показывая им, какие меры можно принять для более эффективного регулирования отрасли ИИ.
Подпишись на Tелеграм канал! Будь в курсе последних новостей криптомира. Не пропустить грядущий бычий цикл в крипте. Регулярная БЕСПЛАТНАЯ АНАЛИТИКА. Для всех подписчиков сообщества! Переходи по ссылке прямо сейчас!
Автор: Вадим Груздев, аналитик Freedman Сlub Crypto News
