Президент Байден подписал указ, устанавливающие стандарты безопасности для ИИ.

В понедельник президент США Джо Байден подписал указ, устанавливая ориентировочные стандарты безопасности для искусственного интеллекта (ИИ).

Приказ заставит крупных разработчиков ИИ:

• поделиться результатами испытаний на безопасность с правительством США;
• создать стандартизированное тестирование безопасности;
• ограничить тестирование биологического ИИ;
• выпуск лучших практик по предотвращению мошенничества с искусственным интеллектом;
• создать инструменты ИИ для выявления слабых мест в программном обеспечении через конкуренцию (продолжение предыдущей программы);
• финансировать исследования в области инструментов конфиденциальности;
• оценить, как государственные учреждения хранят частную информацию;
• решить проблему алгоритмической дискриминации в лизинге и уголовном правосудии;
• защищать права специалистов по ИИ; и
• финансировать наем большего количества специалистов по искусственному интеллекту в правительстве США.

Приказ уполномочивает несколько агентств начать процесс создания согласованных рабочих определений и правил, касающихся ИИ, включая Министерство торговли, обороны, сельского хозяйства и образования. Это также дает Министерству юстиции один год для создания полного отчета обо всех способах использования ИИ в настоящее время в системе уголовного правосудия, от первоначального ареста до тюремного заключения.

В заявлении Белый дом отпраздновал приказ, написав:

Действия, которыми сегодня руководил президент Байден, являются жизненно важными шагами вперед в подходе США к безопасному, надежному и заслуживающему доверия ИИ. Потребуются дополнительные действия, и администрация продолжит работать с Конгрессом над проведением двухпартийного законодательства, чтобы помочь Америке лидировать в области ответственных инноваций.

Администрация Байдена сделала ИИ приоритетом политики, ранее проводя конкурс для хакеров для поиска и устранения уязвимостей в программном обеспечении на базе ИИ, обеспечив добровольные обещания от нескольких известных технологических компаний для решения проблем безопасности и конфиденциальности ИИ и выпустив план для предлагаемого Билля о правах ИИ.

Безопасность ИИ стала глобальной проблемой за последнее десятилетие, и десятки ученых в области искусственного интеллекта и видных технологических деятелей подписали письмо, призывающее глобальные правительства серьезно отнестись к вопросам безопасности ИИ и конфиденциальности по мере развития технологий. Приказ появился сразу после начала Саммита по безопасности ИИ в Великобритании, глобальной конференции по вопросам безопасности ИИ и конфиденциальности.

В настоящее время ИИ используется в различных отраслях, включая автомобильную, банковскую и сельскохозяйственную промышленность. Тем не менее, были высказаны опасения, связанные с некоторыми случаями использования ИИ, включая беспилотные автомобили и их отсутствие реакции на пешеходов, программное обеспечение для распознавания лиц, различающее более темные тона кожи, и отсутствие точности в программном обеспечении для прогнозирования преступлений, используемом правоохранительными органами.