SOUPS 2025 — Риски несанкционированного доступа к информации, связанной с молодежью (YAIR): таксо...

Риски генеративного ИИ, ориентированные на молодежь (YAIR): таксономия рисков генеративного ИИ на основе эмпирических данных Яман Юй, Ирен Лю, Джеки Чжан, Юнь Хуан и Ян Ван, Иллинойсский университет в Урбане-Шампейне Генеративный ИИ меняет взаимодействие молодежи с технологиями, однако уникальные риски, с которыми они сталкиваются, остаются недостаточно изученными и не учитываются в существующих системах безопасности. Без целенаправленной таксономии важный вред для молодежи может быть упущен из виду. Чтобы восполнить этот пробел, мы представляем первую таксономию рисков генеративного ИИ, ориентированную на молодежь, составленную на основе 344 чатов молодежи и ГАИ, 30 305 обсуждений на Reddit и 153 отчетов об инцидентах с ИИ. Мы выделяем шесть ключевых категорий рисков и 84 конкретных риска, организованных по четырем путям взаимодействия. Наши результаты выявляют новые риски, например, риски для психического благополучия, поведенческие и социальные риски развития, а также новые проявления токсичности, нарушения конфиденциальности, предвзятости/дискриминации и злоупотребления/эксплуатации, которые не рассматриваются в существующих таксономиях безопасности детей в интернете и таксономиях рисков ИИ. Основанная на реальных данных, эта таксономия предлагает четкую структуру, которая поможет специалистам по ИИ, педагогам, родителям и политикам лучше понимать и устранять риски, связанные с взаимодействием молодежи и ГИИ. С полной программой SOUPS 2025 можно ознакомиться по ссылке: https://www.usenix.org/conference/soups2025/technical-sessions