Введение
Каждый, кто работал с современными языковыми моделями, сталкивался с ситуацией: вы просите ассистента проверить код, проанализировать данные или выполнить сложную задачу, а в ответ получаете уверенное «Всё работает», за которым не стоит ни одного доказательства. Эта проблема — не просто раздражающий баг, а фундаментальный недостаток архитектуры генеративных AI-моделей. В июле 2026 года один из разработчиков решил радикально изменить поведение Claude, внедрив жёсткое правило: без пруфов — никаких утверждений. Результаты превзошли ожидания. В этой статье я разберу, как именно работает такой подход, какие технические механизмы за ним стоят и почему это может стать новой нормой для AI-ассистентов.
Проблема: ложная уверенность AI
Когда модель отвечает «Всё работает», она часто опирается на вероятностное распределение токенов, а не на фактический анализ. Например, в задачах по отладке кода Claude может генерировать вывод, не проверяя его на тестовых данных. Исследования показывают, что до 40% ответов AI-моделей содержат утверждения, которые не подтверждаются контекстом (источник: Habr — статья о проблемах верификации AI). Это особенно критично в инженерных дисциплинах, где ошибка может стоить времени и ресурсов.
Решение: принудительная верификация
Основная идея эксперимента — запретить модели использовать любые утверждения без явных доказательств. Вместо «код работает» Claude теперь вынужден предоставлять:
- Результаты выполнения модульных тестов
- Логи выполнения
- Сравнение с эталонными данными
- Конкретные цифры или статистику
Технически это реализуется через систему системных промптов и пост-процессинг. В системный промпт добавляется правило: «Ты не можешь говорить, что что-то работает, не предоставив как минимум три независимых подтверждения». Дополнительно используется внешний верификатор, который проверяет ответы на соответствие критериям.
Пример из практики
Предположим, вы просите Claude оптимизировать SQL-запрос. Раньше ответ мог быть: «Всё работает, запрос выполняется быстрее». Теперь он обязан показать:
- План выполнения до и после оптимизации
- Время выполнения (например, с 2.3 секунды до 0.8 секунды)
- Количество строк, возвращаемых запросом
Это не просто улучшает качество ответа, но и делает прозрачной работу модели. Пользователь может перепроверить данные, а AI учится избегать необоснованных заявлений.
Результаты: что изменилось
После внедрения правила в тестовой группе разработчиков:
- Количество ошибочных утверждений снизилось на 78%
- Время на проверку ответов пользователями сократилось в среднем на 40%
- Доверие к модели выросло — 92% участников отметили, что стали чаще следовать рекомендациям AI
Однако возникли и новые проблемы. Модель начала чаще отказываться отвечать, если не могла найти достаточных доказательств. В 15% случаев Claude писал: «Недостаточно данных для подтверждения», что иногда расстраивало пользователей, но в целом воспринималось как честность.
Сравнение подходов
| Аспект | Обычная модель | Модель с пруфами |
|---|---|---|
| Время ответа | 1-2 секунды | 3-5 секунд (из-за проверок) |
| Точность | 82% | 96% |
| Доля отказов | 2% | 15% |
| Удовлетворённость | 74% | 91% |
Данные собраны на основе внутренних тестов в июне 2026 года среди 200 разработчиков. Важно отметить, что время ответа увеличилось, но пользователи готовы ждать дольше ради точности.
Почему это важно для AI-экосистемы
Тренд на верификацию ответов набирает обороты. Крупные AI-компании, включая OpenAI и Anthropic, уже экспериментируют с подобными системами. Например, в бета-версии Claude 5 появился режим «Proof Mode», который требует от модели подтверждать каждый шаг рассуждений. Это особенно полезно в таких областях, как:
- Разработка программного обеспечения (отладка, ревью кода)
- Анализ данных (статистические отчёты)
- Медицина (диагностика на основе симптомов)
- Юриспруденция (проверка нормативных актов)
ASI Biont поддерживает подключение к Claude через API — подробнее на asibiont.com/courses. Это позволяет интегрировать такую логику в корпоративные рабочие процессы.
Технические детали реализации
Если вы хотите внедрить подобное правило для своей модели, вот базовый алгоритм:
- Системный промпт: Добавьте инструкцию: «Ты никогда не должен говорить, что задача выполнена, не предоставив доказательств. Доказательства могут быть: логи, тесты, ссылки, числовые данные.»
- Внешний валидатор: Используйте второй AI-агент (например, GPT-4o) для проверки ответов на наличие пруфов.
- Chain-of-Thought (CoT): Заставьте модель сначала рассуждать, а потом давать ответ. Это снижает вероятность ложных утверждений.
- Feedback loop: Собирайте отзывы пользователей о качестве ответов и дообучайте модель на примерах с пруфами.
Пример промпта:
System: Ты — аналитик, который всегда предоставляет доказательства. Если у тебя нет данных для подтверждения — напиши «Недостаточно информации».
User: Проверь, работает ли этот скрипт?
Assistant: Я выполню проверку.
1. Запуск модульных тестов: 8 из 10 тестов пройдены.
2. Логи выполнения: ошибка в строке 23 — деление на ноль.
3. Рекомендация: исправь деление на ноль, затем повторный запуск.
Заключение
Запрет на пустые утверждения — это не просто улучшение, а смена парадигмы. Модели AI перестают быть «чёрными ящиками» и становятся прозрачными инструментами, которым можно доверять. В мире, где AI всё чаще принимает решения, от которых зависят деньги и жизни, такой подход критически важен. Эксперимент показал: даже небольшое изменение в правилах может кардинально повысить качество работы. Теперь вопрос — насколько быстро остальные разработчики последуют этому примеру?
Источник: Habr — статья о верификации AI-ответов
Данные о точности и времени ответа основаны на внутренних тестах команды разработчиков в июне 2026 года.
Комментарии