Что нужно знать про Безопасность LLM

Технологии и процессы

Атаки
Безопасность

Доклад принят в программу конференции

Мнение Программного комитета о докладе

LLM очень интересны, область для многих новая и, конечно же, стоит подумать и над безопасностью: классы угроз, примеры, регулирование в РФ, OWASP и проверки.

Целевая аудитория

СТО

Тезисы

Если ваша компания уже начала путь апробирования и внедрения Генеративного ИИ, вам следует обратить внимание на безопасность современных моделей. На рынке появилось много классификаторов угроз, тематические паблики заполнены статьями про AI Security, в этом докладе вы найдете краткий перечень наиболее важных и уникальных проблем ИИ-систем и сможете оценить, какие из рисков актуальны в вашей системе.

Евгений Кокуйкин — сооснователь Raft и руководитель лаборатории AI Security в ИТМО. Евгений занимался внедрением технологических решений в проектах Microsoft, Сбер, Diasoft. Сейчас создает решения по обеспечению безопасности генеративного ИИ.

Видео