Австралия может в скором времени заставить Apple App Store удалить приложения с искусственным интеллектом, которые позволяют пользователям получать доступ к контенту для взрослых или с насилием без проверки возраста.
Хотя Apple уже выполнила требования Австралии по запрету социальных сетей для подростков, обновив инструменты App Store для проверки возраста, производителю iPhone, возможно, в скором времени придется принять дополнительные меры.
Точнее говоря, магазины приложений, вероятно, будут обязаны блокировать приложения с искусственным интеллектом, в которых не реализованы меры по проверке возраста. Регулирующие органы Австралии нацелены на приложения с искусственным интеллектом, которые позволяют пользователям младше 18 лет получать доступ к контенту для взрослых, экстремальному насилию, самоповреждениям и расстройствам пищевого поведения.
Как отмечает Reuters, магазины приложений, которые не удалят нарушающие правила приложения с искусственным интеллектом до 9 марта, могут быть оштрафованы на сумму до 35 миллионов долларов. Представитель комиссара по электронной безопасности Австралии заявил, что в случае несоблюдения требований регулирующие органы будут использовать весь спектр своих полномочий.
Это, среди прочего, включает «меры в отношении таких сервисов-шлюзов, как поисковые системы и магазины приложений, которые обеспечивают ключевые точки доступа к определенным сервисам».
Другими словами, Apple, скорее всего, будет вынуждена удалить приложения с искусственным интеллектом, не имеющие надлежащей проверки возраста, чтобы не допустить доступа несовершеннолетних к насильственному и иному нежелательному контенту.
Кроме того, eSafety выразила обеспокоенность длительным использованием чат-ботов с искусственным интеллектом детьми, отметив, что некоторые десятилетние дети в Австралии проводят до шести часов в день, общаясь с программным обеспечением с искусственным интеллектом.
Австралийские регулирующие органы заявили, что «компании, занимающиеся искусственным интеллектом, используют эмоциональное манипулирование, антропоморфизм и другие передовые технологии, чтобы привлечь, увлечь и укоренить молодых людей в чрезмерном использовании чат-ботов».
Не все приложения ИИ соответствуют требованиям регулирующих органов
Однако, несмотря на усилия eSafety, не все приложения и услуги ИИ соответствуют австралийским требованиям по подтверждению возраста. В отчете поясняется, что из 50 опрошенных платформ искусственного интеллекта только девять из них внедрили необходимые меры по проверке возраста.
Из 50 приложений искусственного интеллекта 11 приложений ввели общие фильтры контента. Это верно для большинства чат-ботов искусственного интеллекта, доступных в Австралии, включая ChatGPT от OpenAI, Replika и Claude от Anthropic.
Character.AI, тем временем, ограничил открытые чаты для пользователей старше 18 лет; HammerAI полностью запретил пользователям в Австралии доступ к своим продуктам и услугам.
Остальные приложения ИИ не предлагали функциональных систем фильтрации по возрасту, а некоторые из них даже не имели адреса электронной почты, по которому пользователи могли бы сообщать о потенциальных нарушениях, утверждается в отчете.
Между тем, Grok Илона Маска внедрил меры по предотвращению генерации порнографического контента с участием несовершеннолетних, хотя и только в тех регионах, где это требовалось по закону. Apple, в частности, на тот момент ничего не сказала по этому поводу.
Хотя многие из упомянутых в отчете приложений доступны в App Store, не все они имеют одинаковый рейтинг. Например, Character.AI имеет рейтинг 18+, а Grok — 16+. Приложение ChatGPT, между тем, имеет рейтинг 13+.
Эти возрастные рейтинги, похоже, применяются и соблюдаются неравномерно, что вскоре может стать проблемой.
На момент написания статьи Apple уже обновила инструменты проверки возраста, доступные разработчикам. Даже с обновленными инструментами проверки возраста штрафы не исключены.