РОЗРОБКА ЗАСТОСУНКУ ДЛЯ ТЕСТУВАННЯ ВРАЗЛИВОСТЕЙ ЧАТ-БОТІВ НА БАЗІ LLM
Ескіз недоступний
Дата
2025
Автори
Назва журналу
Номер ISSN
Назва тому
Видавець
ВСП "ОТФК ОНТУ", Відділення Комп'ютерних систем
Анотація
Метою кваліфікаційної роботи є розробка застосунку для тестування
вразивостей чат-ботів на базі великих мовних моделей LLM.ㅤㅤㅤ
Під час виконання роботи було створенно програмний застосунок для
автоматизованого тестування вразливостей чат-ботів, що використовують
LLM, з фокусом на такі загрози, як prompt injection, jailbreak, data leakage та
інші поведінкові аномалії.
У кваліфікаційній роботі розглянуто актуальну проблему забезпечення
безпеки чат-ботів, побудованих на основі великих мовних моделей (LLM), які
набули широкого застосування в різних сферах - від бізнесу до освіти. З
розвитком можливостей штучного інтелекту виникає потреба у виявленні
вразливостей LLM, що можуть призводити до витоку конфіденційної
інформації, виконання заборонених дій або підриву довіри до системи.