Будете знать, какие четыре разные беды может принести искусственный интеллект — ошибётся, данные уйдут, сделает лишнее, будет применён против вас, — по каким признакам отличить одну от другой и какое действие спасает в каждом случае. Разбираем не страшилки, а настоящие случаи; три из них дошли до суда. Для обычного человека, для малого дела и для большого — в каждом уроке отдельно.
Четыре разные беды и та из них, что бьёт вас уже сегодня
Беда, при которой никто ничего не ломал
Новая опасность: способный исполнитель с расплывчатой целью и доступом
Бот перед клиентом и порядок действий, когда уже случилось
Когда говорят «опасный искусственный интеллект», каждый слышит своё. Один думает про восстание машин, другой — про мошенников, третий — что нейросеть насоветует ерунды и он попадёт.
Разговор из-за этого идёт впустую: спорят о разном, называя одним словом. А защита у этих бед разная. Пока их держат в одной куче, не защищён никто.
Бед четыре. Разложим и дальше будем разбирать каждую отдельно.
Всё в курсе — по состоянию на сентябрь 2026 года. Где что-то быстро меняется, стоит пометка «где смотреть».
Языковая модель не ищет ответ — она подбирает продолжение, самое правдоподобное. Отсюда её главное свойство: выдумка выходит такой же гладкой и уверенной, как правда. Не «наверное, где-то в третьей статье», а «пункт 4 статьи 12, редакция от 3 марта».
Человек привык, что уверенность и конкретика — признак знания. У модели это не так.
Что бывает. Адвокаты в США искали судебную практику через чат, получили ссылки на шесть решений, которых не существовало, и подали их в суд. Штраф пять тысяч долларов и указание суда: проверять обязаны они.
Сотрудник вставил договор в чат, чтобы переписать по-человечески. Ничего не сломалось. Никто не нападал. Помощник ничего не сделал — он просто ответил.
А договор уже у чужого поставщика: в его журналах, может быть в обучении следующей версии, в другой стране.
Это отдельная беда, а не разновидность остальных. Её не лечит ни проверка ответа, ни ограничение прав помощника. Лечит одно: не отдавать туда то, что не отдал бы незнакомцу.
Для небольшого дела в России это самая частая настоящая беда — чаще, чем всё остальное вместе.
Это новое. Раньше нейросеть отвечала текстом, а решал и делал человек. Теперь помощнику дают доступ: к почте, календарю, записи на приём, платежам. Он не советует — он делает.
Задача. Вы просите: «запиши меня к врачу пос
Проходи курс бесплатно, получай XP и сертификат