Перегляд за Автор "ШМАДЮК АНАСТАСІЯ ТАРАСІВНА"

Зараз показуємо 1 - 1 з 1
  • Документ
    РОЗРОБКА ЗАСТОСУНКУ ДЛЯ ТЕСТУВАННЯ ВРАЗЛИВОСТЕЙ ЧАТ-БОТІВ НА БАЗІ LLM
    (ВСП "ОТФК ОНТУ", Відділення Комп'ютерних систем, 2025) ШМАДЮК АНАСТАСІЯ ТАРАСІВНА
    Метою кваліфікаційної роботи є розробка застосунку для тестування вразивостей чат-ботів на базі великих мовних моделей LLM.ㅤㅤㅤ Під час виконання роботи було створенно програмний застосунок для автоматизованого тестування вразливостей чат-ботів, що використовують LLM, з фокусом на такі загрози, як prompt injection, jailbreak, data leakage та інші поведінкові аномалії. У кваліфікаційній роботі розглянуто актуальну проблему забезпечення безпеки чат-ботів, побудованих на основі великих мовних моделей (LLM), які набули широкого застосування в різних сферах - від бізнесу до освіти. З розвитком можливостей штучного інтелекту виникає потреба у виявленні вразливостей LLM, що можуть призводити до витоку конфіденційної інформації, виконання заборонених дій або підриву довіри до системи.