Опубликовано: 26.09.2026 | Источник: SecurityLab (RSS)

Безопасность ChatGPT в ВКР: анализ угроз утечки данных и защита дипломного проекта

В марте 2026 года вышла новость, которая больно бьёт по привычке «скачать клиент поудобнее»: под видом десктопного ChatGPT распространяются вредоносные сборки, а преступники, по данным SecurityLab, эксплуатируют именно человеческую бдительность и тягу к «официальному» интерфейсу. Для выпускника ИТ это не просто страшилка из ленты — это готовый кейс для первой главы, свежая статистика для введения и повод пересобрать собственную модель угроз. Ниже — как превратить этот сюжет в защищаемый диплом, а не в пересказ новости.

Частые вопросы студентов — коротко и по делу

Три темы ВКР, которые вытекают из новости

• Тема 1. Разработка модуля DLP-контроля для LLM-ассистентов в корпоративном контуре.

  Актуальность: статья 2026 года показывает, что угроза смещается от серверной части к клиентской — пользователь ставит «удобный» клиент и открывает канал утечки. Цель — построить шлюз, который фильтрует запросы до отправки во внешний AI-сервис. Задачи: 1) классификация типов чувствительных данных; 2) реализация детектора PII на регулярных выражениях и NER; 3) интеграция с журналированием через OpenTelemetry; 4) оценка precision/recall на подготовленном датасете. Структура: гл.1 — анализ LLM-угроз и обзор DLP; гл.2 — проектирование фильтра и схемы развёртывания; гл.3 — эксперимент и метрики.

• Тема 2. Модель угроз и количественная оценка рисков при интеграции внешних AI-сервисов.

  Актуальность: подмена клиента — классическая атака на цепочку поставок ПО, теперь направленная на пользователей LLM. Цель — формализовать риски и получить приоритизированный список мер. Задачи: 1) построение STRIDE-таблицы; 2) оценка по DREAD или CVSS; 3) выбор контрмер по ISO/IEC 27001; 4) расчёт остаточного риска. Структура: гл.1 — теория угроз LLM и таксономия OWASP LLM Top 10; гл.2 — проектирование модели и сценариев; гл.3 — симуляция инцидентов и выводы.

• Тема 3. Проектирование защищённого шлюза доступа к внешним AI-API на принципах Zero Trust.

  Актуальность: новость подчёркивает, что доверие к «официальному» клиенту больше не работает — нужен явный контроль каждого запроса. Цель — спроектировать архитектуру прокси, где решение о пропуске принимается на основе политик, а не репутации приложения. Задачи: 1) обзор паттернов Zero Trust; 2) разработка схемы на C4-диаграмме; 3) прототип на Python/Go; 4) нагрузочное тестирование с замером задержки. Структура: гл.1 — анализ; гл.2 — архитектура и реализация; гл.3 — тестирование и эксплуатационные метрики.

Как встроить материал статьи в главы ВКР

Глава 1: не пересказ, а систематизация

Не пишите «в современном мире участились атаки». Возьмите конкретику из источника: подмена клиента, эксплуатация доверия пользователя, распространение через неофициальные каналы. Дальше — наложите это на OWASP LLM Top 10 и покажите, к каким категориям относится инцидент (как минимум sensitive information disclosure и supply chain). Хорошая практика — таблица «категория OWASP → пример из кейса → потенциальный ущерб». Она сразу отвечает на вопрос комиссии «где здесь анализ, а не рерайт новости».

Глава 2: архитектура и модель угроз

Здесь рисуете поток данных: пользователь → клиент → шлюз → внешний API. ASCII-схему можно собрать так:

[Пользователь]
      │  (1) запрос
      ▼
[Клиент LLM]───(2a) доверенный канал?───[Внешний AI-API]
      │                                        ▲
      │  (2b) подмена клиента                  │
      ▼                                        │
[Локальный DLP-шлюз]───(3) фильтрация───────┘
      │
      ▼
[SIEM / OpenTelemetry Collector]

Далее — STRIDE-таблица: для каждого потока указываете Spoofing, Tampering, Repudiation, Information disclosure, DoS, Elevation. Это те самые диаграммы и модели, которые нормоконтроль ожидает увидеть в главе 2.

Глава 2–3: прототип фильтра чувствительных данных

Минимальный рабочий пример — проверка запроса на PII перед отправкой во внешний API. Псевдокод на Python подойдёт для приложения к диплому:

import re, logging
from opentelemetry import trace

PII_PATTERNS = {
    "email": r"[\w\.-]+@[\w\.-]+\.\w+",
    "phone": r"\+?\d[\d\-\s]{9,}\d",
    "snils": r"\d{3}-\d{3}-\d{3} \d{2}",
}

tracer = trace.get_tracer("dlp.gateway")

def scan(prompt: str) -> dict:
    hits = {}
    with tracer.start_as_current_span("dlp.scan"):
        for name, pattern in PII_PATTERNS.items():
            found = re.findall(pattern, prompt)
            if found:
                hits[name] = found
        if hits:
            logging.warning("PII blocked: %s", list(hits.keys()))
        return hits

def safe_send(prompt, client):
    if scan(prompt):
        raise PermissionError("Запрос содержит чувствительные данные")
    return client.send(prompt)

Такой листинг закрывает требование «продемонстрировать практическую реализацию» и легко расширяется до полноценного модуля с NER-моделью.

Глава 3: метрики, а не голословные выводы

Эти числа — ваш главный аргумент на защите. Комиссия не спорит с цифрами, если методика описана.

Источник: Не устанавливай ChatGPT, пока не прочтёшь это. Твои данные под угрозой (опубликовано 2026-03-25)