Что нужно знать про Безопасность Генеративного ИИ

Технологии и процессы

Атаки
Безопасность

Доклад принят в программу конференции

Целевая аудитория

СТО

Тезисы

Если ваша компания уже начала путь апробирования и внедрения Генеративного ИИ, вам следует обратить внимание на безопасность современных моделей. На рынке появилось много классификаторов угроз, тематические паблики заполнены статьями про AI Security, в этом докладе вы найдете краткий перечень наиболее важных и уникальных проблем ИИ-систем и сможете оценить, какие из рисков актуальны в вашей системе.

Евгений Кокуйкин — сооснователь Raft и руководитель лаборатории AI Security в ИТМО. Евгений занимался внедрением технологических решений в проектах Microsoft, Сбер, Diasoft. Сейчас создает решения по обеспечению безопасности генеративного ИИ.

Raft

Raft интегрируют решения с использованием Генеративного ИИ. Одно из направлений бизнеса - это разработка ИБ продуктов для Генеративных ИИ-систем.

Видео