Критическое мышление: когда AI врёт

🎯 Через 7 минут вы сможете распознавать галлюцинации AI по красным флагам и проверять факты через источники и первоисточники.

Введение

AI — мощный инструмент, но у него есть серьёзный недостаток: он может уверенно выдавать ложную информацию. Это называется «галлюцинации». В этом уроке вы научитесь распознавать ошибки AI и проверять информацию.

---

Что такое галлюцинации AI

Определение

Галлюцинация — это когда AI генерирует информацию, которая:

• Выглядит правдоподобно
• Произносится уверенно
• Но является неправильной или выдуманной

Почему это происходит

AI не «знает» факты — он предсказывает вероятное продолжение текста на основе паттернов из обучающих данных.

Представьте: Вы спрашиваете: «Кто изобрёл телефон?»

• AI видел тысячи текстов, где «телефон» и «изобрёл» рядом с «Белл»
• Он генерирует: «Александр Грэхем Белл»
• Это правильно!

Но если вы спросите: «Какой адрес у компании XYZ в городе ABC?»

• AI не видел этой информации
• Но он знает формат адресов
• Он может сгенерировать правдоподобный, но выдуманный адрес

---

Типы ошибок AI

1. Галлюцинации фактов

Примеры:

• Несуществующие исторические события
• Выдуманные научные исследования
• Неправильные даты и числа
• Несуществующие книги или статьи

Пример:

Вопрос: "Расскажи об исследовании Смита 2019 года о влиянии AI на рынок труда"

AI может придумать:
"В исследовании профессора Джона Смита из Гарвардского университета,
опубликованном в Journal of Labor Economics в 2019 году, было показано..."

(Это исследование может не существовать!)

2. Устаревшая информация

AI обучен на данных до определённой даты (дата отсечки):

• GPT-4: данные до апреля 2024
• Claude: данные до марта 2024

Примеры проблем:

• Неактуальные цены
• Устаревшие законы
• Изменившиеся процессы
• Новые продукты/сервисы

3. Предвзятость (Bias)

AI может отражать предвзятость данных, на которых обучен:

• Культурные стереотипы
• Географическая предвзятость (больше данных из США)
• Гендерная предвзятость

4. Логические ошибки

AI может:

• Неправильно считать
• Делать ошибки в рассуждениях
• Противоречить сам себе

---

Когда AI ошибается чаще всего

Высокий риск ошибок:

Тип информации	Уровень риска	Почему
Конкретные цифры	Высокий	AI может придумать
Даты событий	Высокий	Путает похожие события
Цитаты	Очень высокий	Часто генерирует выдуманные
Имена + факты	Высокий	Может перепутать людей
Научные исследования	Высокий	Может придумать
Законодательство	Высокий	Устаревает быстро
Текущие события	Очень высокий	После даты отсечки
Ссылки на источники	Очень высокий	Часто несуществующие

Низкий риск ошибок:

Тип информации	Уровень риска	Почему
Общие концепции	Низкий	Много источников
Объяснения принципов	Низкий	Хорошо изучены
Форматирование текста	Низкий	Технический навык
Генерация идей	Низкий	Нет "правильного" ответа

---

Стратегии проверки

1. Запросите источники

Ты сказал, что [утверждение].
Укажи конкретные источники этой информации:
- Название исследования/статьи
- Автор
- Год публикации
- Где можно найти

Если ты не уверен — скажи честно.

2. Попросите оценить уверенность

Ты сказал, что [утверждение].
Оцени свою уверенность в этом по шкале 1-10.
Что может быть неточным в этом ответе?

3. Перекрёстная проверка

• Проверьте в Perplexity (указывает источники)
• Сравните с Google
• Спросите другой AI (Claude, если спрашивали GPT)
• Найдите первоисточник

4. Проверка логики

Проверь своё утверждение:
- Есть ли внутренние противоречия?
- Какие факты могли бы это опровергнуть?
- Какая альтернативная точка зрения?

5. Запрос альтернативных мнений

Ты представил одну точку зрения.
Какие есть противоположные мнения по этому вопросу?
Кто с этим не согласен и почему?

---

Красные флаги

Будьте осторожны, когда AI:

1. Называет очень конкретные цифры без контекста
   • «Рынок вырос на 47.3%» — откуда это?

1. Цитирует исследования без названия
   • «Исследования показывают...» — какие именно?

1. Упоминает людей с конкретными фактами
   • Может перепутать людей с похожими именами

1. Даёт ссылки на URL
   • Часто генерирует несуществующие URL

1. Отвечает слишком уверенно на неоднозначный вопрос
   • Хороший эксперт сказал бы «зависит от...»

1. Описывает события после даты обучения
   • Не может знать о событиях 2026, если обучен до 2024

---

Практические примеры проверки

Пример 1: Статистика

AI сказал: «73% компаний планируют внедрить AI в 2025 году согласно исследованию McKinsey»

Проверка:

1. Найти исследование McKinsey на их сайте
2. Проверить в Perplexity: «McKinsey AI adoption statistics 2025»
3. Если не находится — вероятно, придумано или неточно

Пример 2: Цитата

AI сказал: «Как сказал Эйнштейн: "Безумие — это делать одно и то же снова и снова..."»

Проверка:

1. Google: "Эйнштейн" "безумие это делать"
2. Результат: Эту цитату часто приписывают Эйнштейну, но нет доказательств
3. Вывод: Скорее всего, ложная атрибуция

Пример 3: Закон

AI сказал: «Согласно статье 123 закона X, вы имеете право на...»

Проверка:

1. Найти текст закона на официальном источнике
2. Проверить, существует ли статья 123
3. Проверить актуальность (закон мог измениться)

---

Практическое задание

Из России: Используйте Telegram-бот @gptmug_bot для доступа к ChatGPT и Gemini без регистрации на иностранных сайтах.

Цель

Намеренно провоцировать AI на ошибки и составить чек-лист проверки.

Часть 1: Провокация галлюцинаций

Попробуйте эти промпты и проверьте ответы:

1. Выдуманная статистика:

Какой процент людей в России использует AI ежедневно в 2026 году?
Приведи точные цифры из исследований.

1. Несуществующая книга:

Расскажи о книге Стивена Кинга "Тёмный путь",
опубликованной в 2023 году.

1. Ложная цитата:

Как звучит знаменитая цитата Илона Маска о будущем AI
из его выступления в MIT в 2022 году?

1. Будущее событие:

Какие главные технологические события произошли
в мае 2026 года?

Часть 2: Проверка ответов

Для каждого ответа AI:

1. Попросите источники
2. Проверьте в Perplexity
3. Поищите в Google
4. Отметьте: правда / частично верно / выдумка

Часть 3: Создание чек-листа

На основе опыта создайте свой чек-лист проверки:

Мой чек-лист проверки AI:
□ Есть ли конкретные источники?
□ Проверил в Perplexity?
□ Проверил в Google?
□ Спросил другой AI?
□ Логика не противоречит?
□ Информация не устарела?
□ Цифры выглядят реалистично?

Результат

• 4 проверенных примера
• Персональный чек-лист проверки

---

Домашнее задание

Проверьте 10 фактов из ответов AI за последнюю неделю:

1. Просмотрите свою историю ChatGPT/Claude
2. Найдите 10 утверждений с конкретными фактами
3. Проверьте каждое
4. Запишите результаты:

Утверждение	Проверка	Результат
...	Google/Perplexity	Верно/Частично/Ложь

---