В системе Claude внедряется новый уровень проверки личности. Речь не идет о каком-то общем предписании или правиле, применимом ко всем пользователям: фильтр идентификации будет действовать в тех случаях, которые компания Anthropic определяет как «несколько сценариев использования», хотя в некоторых местах сфера применения этих сценариев остаётся несколько расплывчатой.
Anthropic подтвердила эту новость во вторник в блоге службы поддержки Claude. Компания заявляет, что проверка личности помогает предотвратить злоупотребления, обеспечить соблюдение правил использования и выполнить юридические обязательства.
Пользователям сообщили, что при доступе к определенным функциям они «могут увидеть запрос на подтверждение», и что это является частью «рутинных проверок целостности платформы» команды Claude, а также других мер безопасности и соблюдения нормативных требований.
Как Anthropic будет проверять пользователей?
Anthropic выбрала компанию Persona Identities, расположенную в Сан-Франциско и специализирующуюся на платформах проверки личности, в качестве технологического партнера для этой услуги. Пользователям, которым будет предложено подтвердить свою личность, понадобится действительное удостоверение личности с фотографией, выданное государственным органом. Для прохождения процесса проверки им необходимо будет предъявить физический документ, а также сделать селфи в режиме реального времени.
«Мы не используем ваши личные данные для обучения наших моделей… Мы не собираем больше, чем нам нужно… Мы не передаем ваши личные данные кому-либо еще» — команда Anthropic Claude.
Принимаемые документы включают паспорта, национальные удостоверения личности, водительские права или удостоверения личности штата/провинции. Проверка обычно занимает менее пяти минут. Команда Claude подтверждает, что негосударственные удостоверения личности, такие как студенческие билеты, пропуска сотрудников, читательские билеты и банковские карты, не принимаются.
Каких пользователей фильтрует Anthropic?
Изначально фильтр идентификации Claude, по-видимому, возник из необходимости отсеять четыре основных типа пользователей: нарушителей политики использования, пользователей из неподдерживаемых регионов, нарушителей условий обслуживания и пользователей младше 18 лет.
Организация стремится принять меры в отношении тех, кто неоднократно нарушает политику использования Anthropic. Политика использования организации, представляющая собой гибкий мандат, соответствующий развивающемуся характеру ИИ, имеет собственный блог с новостями, где пользователи информируются об изменениях, направленных на предотвращение кибернарушений, ограничение политического контента и предотвращение нежелательного использования агентами.
Удобно, что Anthropic публикует список поддерживаемых стран, где доступен коммерческий API и Claude.ai, а не устанавливает окончательный список запрещенных стран. Неподдерживаемые регионы включают обычных подозреваемых, т. е. материковый Китай, Россию, Иран, Северную Корею и Беларусь.
Некоторые африканские страны также отсутствуют в списке поддерживаемых стран. Украина поддерживается, но оккупированные регионы Крыма, Донецка, Херсона, Луганска и Запорожья исключены.
Использование пользователями младше 18 лет
Хотя некоторые пользователи в Запорожье будут разочарованы, у них сейчас, очевидно, есть более серьезные проблемы. Более вероятно, что растет волна разочарования среди пользователей младше 18 лет, особенно среди тех, кто использует Claude для проектов и учебы в области информатики.
По словам пользователя llm_nerd, написавшего на этой неделе на Hacker Noon, у его 15-летнего сына заблокировали аккаунт в Claude с требованием предоставить удостоверение личности, чтобы доказать, что ему 18 лет или больше.
«У него была собственная подписка на Claude Max (он довольно часто зарабатывает больше меня в своем кругу игровых программистов) и он, как и я, не знал, что у Anthropic есть правило о том, что пользователю должно быть не менее 18 лет», — пишет комментатор.
В электронном письме от Anthropic говорилось: «Наша команда обнаружила признаки того, что вашей учетной записью пользовался ребенок. Это нарушает наши правила, поэтому мы приостановили ваш доступ к Claude».
К счастью, этот пользователь отмечает, что Anthropic вернула молодому программисту деньги за весь текущий месяц, хотя он уже близился к его окончанию.
Условия использования OpenAI подтверждают, что Codex и ChatGPT доступны для пользователей старше 13 лет. Страницы Google Gemini Apps, посвященные ответственному использованию и возрастным ограничениям, также подтверждают, что услуги доступны для пользователей от 13 лет.
Чего не делает Anthropic
Anthropic заявляет, что выступает в качестве «контролера данных» для данных верификации. Это означает, что компания устанавливает правила их использования и сроки хранения. Идентификаторы пользователей и селфи собираются и хранятся в Persona, а не в системах Anthropic. Anthropic может получить доступ к записям верификации через платформу Persona при необходимости — например, для рассмотрения апелляции — но сама компания не копирует и не хранит эти изображения.
«Мы не используем ваши идентификационные данные для обучения наших моделей. Данные верификации используются исключительно для подтверждения вашей личности и выполнения наших юридических и безопасности обязательств. Мы не собираем больше, чем нам нужно. Мы запрашиваем минимальный объем информации, необходимый для подтверждения вашей личности. Мы не передаем ваши идентификационные данные третьим лицам», — говорится в заявлении Anthropic.
Можно сказать, что это событие является актуальным и своевременным. Запрет на использование социальных сетей для лиц младше 16 лет, введенный в Австралии, также рассматривается правительством Великобритании.
На фоне глобальных конфликтов, разворачивающихся по всему миру, и появления новых потоков киберуязвимостей через слой агентских сервисов, ограничения для пользователей такого рода будут рассматриваться одними как уместные, а другими — как интервенционизм коммерческого сектора в стиле «няньки-государства».
Подписывайтесь на наш канал в Телеграм
⚡ Подписаться