Опубликовано: 28.09.2026 | Источник: TechCrunch

Детекция AI-сгенерированного контента в ВКР: модель, метрики и защита результата

27 марта 2026 года TechCrunch сообщил, что Википедия ужесточает правила в отношении AI-написанных статей: сайт «борется с проблемой текстов, сгенерированных ИИ», а его политики остаются изменяемыми. Для выпускника IT-направления это не новость из мира медиа, а готовый технический кейс: где ещё, как не в открытой энциклопедии с миллионами правок, искать датасет для обучения детектора сгенерированного текста? Если вы пишете работу по машинному обучению, ИБ или контент-модерации, тема детекции AI-контента даёт вам то, что редко встретишь в учебных задачах — реальную бизнес-мотивацию, внятные метрики и защищаемый практический результат. Ниже — как превратить эту новость в структуру ВКР, которая выдержит вопросы комиссии.

Темы ВКР и техническая реализация: единый блок

Вместо трёх разрозненных идей соберём три взаимодополняющих направления, каждое из которых можно вести как самостоятельную работу. Внутри — актуальность от статьи, цель, задачи, разбивка по главам.

Как встроить материал статьи в главы 1–3

Первую главу почти всегда отдают теории. Здесь статья TechCrunch работает как кейс-иллюстрация: сослались на конкретное событие, описали проблему, развернули её в перечень подходов к детекции, добавили классификацию методов. Не забудьте сравнить подходы через призму ISO/IEC 25010 — точность, надёжность, производительность, сопровождаемость. Комиссия любит, когда студент не просто «выбрал BERT», а объяснил выбор через измеримые характеристики качества.

Вторая глава — проектирование и реализация. Диаграммы лучше строить в нотации C4 (уровни контекста и контейнеров) для архитектуры сервиса и UML sequence — для потока «пользователь отправил текст → детектор → вердикт». Не рисуйте всё в одном стиле; смешение C4 и UML требует пояснения легенды.

Третья глава — эксперименты. Здесь считаем вероятность ложного обвинения человека в использовании ИИ. Для модерации это критично: ложняк бьёт по репутации платформы, пропуск ИИ — по качеству контента. Так строится ROC-кривая и выбирается порог.

Пример кода: обучение детектора

from transformers import AutoTokenizer, AutoModelForSequenceClassification, Trainer, TrainingArguments
from datasets import load_dataset
import evaluate, numpy as np

ds = load_dataset("json", data_files={"train": "train.jsonl", "test": "test.jsonl"})
tok = AutoTokenizer.from_pretrained("distilbert-base-multilingual-cased")

def prep(batch):
    return tok(batch["text"], truncation=True, padding="max_length", max_length=512)

ds = ds.map(prep, batched=True)
model = AutoModelForSequenceClassification.from_pretrained(
    "distilbert-base-multilingual-cased", num_labels=2)

f1 = evaluate.load("f1")
def metrics(p):
    pred = np.argmax(p.predictions, axis=-1)
    return {"f1": f1.compute(predictions=pred, references=p.label_ids, average="binary")["f1"]}

args = TrainingArguments(output_dir="./detector", num_train_epochs=3,
                         per_device_train_batch_size=16, eval_strategy="epoch",
                         learning_rate=2e-5, seed=42)

Trainer(model=model, args=args, train_dataset=ds["train"],
        eval_dataset=ds["test"], compute_metrics=metrics).train()

Такой скрипт занимает полстраницы и отлично смотрится в приложении к ВКР. Не забудьте указать seed, версию библиотек и гиперпараметры — воспроизводимость результата это первое, о чём спросят на защите.

Метрики, которые стоит считать

Чему вы научитесь

• Формулировать задачу детекции как задачу машинного обучения с измеримым критерием качества, а не «сделать круто».
• Проектировать архитектуру сервиса через C4 и UML и защищать её схему перед комиссией.
• Считать и интерпретировать метрики классификации, включая ROC-AUC и выбор рабочего порога.
• Учитывать требования OWASP LLM Top 10 — как минимум LLM09 (дезинформация) и LLM01 (prompt injection при автоматической обработке контента).
• Оформлять результаты экспериментов и приложения к ВКР так, чтобы их можно было воспроизвести.

FAQ

Где взять датасет, если нет доступа к вики-правкам?

Публичные корпуса: HC3, M4, SemEval-2024 Task 8 (machine-generated text detection), плюс самостоятельно собранный набор из открытых текстов и генераций через доступные LLM. Для защиты достаточно 5–10 тысяч примеров на класс, если вы корректно описали сбор и разметку.

Можно ли использовать готовые детекторы?

Можно и нужно как baseline. Сравнение собственной модели с готовым решением — это фактически вторая часть вашей исследовательской работы. Не выдавайте готовое за своё, но и не бойтесь на него опираться.

Как связать эту тему с ИБ или DevOps?

Прямо: детектор — часть контент-модерации, а это защита доверия к платформе. DevOps-профиль подхватывает мониторинг, CI/CD модели, versioning датасетов и артефактов. ИБ-профиль — вопросы отравления обучающих данных (data poisoning) и adversarially-устойчивости классификатора.

Хватит ли одного ноутбука для обучения?

Да, если взять distilbert или небольшой RuBERT и обучать на GPU вроде T4. Обучение на 10 тысячах примеров занимает 20–40 минут. В приложении укажите облако или локальную конфигурацию — воспроизводимость важнее «мощности».

Источник: Wikipedia cracks down on the use of AI in article writing (опубликовано 2026-03-26)