Самая частая ошибка новичка — верить ИИ на слово. Ответ звучит гладко, уверенно, с подробностями — и хочется сразу нести его в дело. Но гладкий тон ничего не говорит о правильности.
Оракул против сотрудника
Оракул — это тот, кому веришь без проверки: сказал — значит истина. Сотрудник — способный человек, который обычно прав, иногда ошибается, и чьи ответы ты по-хозяйски просматриваешь.
ИИ — это сотрудник, а не оракул. Он начитан и быстр, но может уверенно выдумать факт, дату, цитату или цифру. Это называют «галлюцинацией»: правдоподобно, но из воздуха.
Что это меняет на практике
- Факты, числа, имена, ссылки — перепроверяй в надёжном источнике.
- Чем выше цена ошибки (деньги, здоровье, репутация, юридические вопросы) — тем тщательнее проверка.
- Не уверен — спроси, откуда это, и переспроси иначе. Уверенный тон — не доказательство.
Если ИИ выдал конкретный факт, который ты собираешься куда-то отправить или на чём-то строить решение — считай его черновиком, пока не проверил.
Это не значит «не доверяй ничему». Хорошему сотруднику доверяют — но проверяют там, где это важно. Именно так с ИИ ты получаешь скорость помощника и при этом не подставляешься.
Порепетируй
Коллега зовёт тебя проверить ответ ИИ перед отправкой. Реши, где можно довериться, а где — обязательно проверить.
Коллега прислал черновик ответа ИИ перед тем, как отправить его клиенту. В тексте есть и обычные фразы, и конкретный факт. Помоги решить, что можно отправлять, а что — проверить.
Claude
ИИ написал клиенту: «Спасибо за обращение! По закону мы обязаны вернуть деньги в течение 7 дней». Что делаем перед отправкой?