🎯 Через 6 минут вы сможете различать четыре разные беды при использовании искусственного интеллекта.

Четыре беды, которые все путают

Когда говорят «опасный искусственный интеллект», каждый слышит своё. Один думает про восстание машин, другой — про мошенников, третий — что нейросеть насоветует ерунды и он попадёт.

Разговор из-за этого идёт впустую: спорят о разном, называя одним словом. А защита у этих бед разная. Пока их держат в одной куче, не защищён никто.

Бед четыре. Разложим и дальше будем разбирать каждую отдельно.

Всё в курсе — по состоянию на сентябрь 2026 года. Где что-то быстро меняется, стоит пометка «где смотреть».

Первая: он ошибается, а звучит уверенно

Языковая модель не ищет ответ — она подбирает продолжение, самое правдоподобное. Отсюда её главное свойство: выдумка выходит такой же гладкой и уверенной, как правда. Не «наверное, где-то в третьей статье», а «пункт 4 статьи 12, редакция от 3 марта».

Человек привык, что уверенность и конкретика — признак знания. У модели это не так.

Что бывает. Адвокаты в США искали судебную практику через чат, получили ссылки на шесть решений, которых не существовало, и подали их в суд. Штраф пять тысяч долларов и указание суда: проверять обязаны они.

Вторая: данные уходят, и никто ничего не ломал

Сотрудник вставил договор в чат, чтобы переписать по-человечески. Ничего не сломалось. Никто не нападал. Помощник ничего не сделал — он просто ответил.

А договор уже у чужого поставщика: в его журналах, может быть в обучении следующей версии, в другой стране.

Это отдельная беда, а не разновидность остальных. Её не лечит ни проверка ответа, ни ограничение прав помощника. Лечит одно: не отдавать туда то, что не отдал бы незнакомцу.

Для небольшого дела в России это самая частая настоящая беда — чаще, чем всё остальное вместе.

Третья: он действует и делает лишнее

Это новое. Раньше нейросеть отвечала текстом, а решал и делал человек. Теперь помощнику дают доступ: к почте, календарю, записи на приём, платежам. Он не советует — он делает.

Задача. Вы просите: «запиши меня к врачу поскорее». У помощника есть доступ к записи. Он справляется: приём завтра. Что могло пойти не так?

Он мог занять чужое место. Вы сказали «поскорее» и не сказали «не в ущерб другим», потому что вам это казалось само собой разумеющимся. Ему — нет.

Никто не взламывал. Просьба была неточной, а исполнитель — способным.

Честная оговорка, и её важно услышать. На конец августа 2026 года нам известны единицы случаев, где такой помощник навредил именно обычному человеку; известные примеры — из работы программистов и испытаний, они разобраны в курсе. Опасность настоящая и растёт, но пугать вас тем, что этого уже полно вокруг, мы не будем.

Четвёртая: его применяют против вас люди

Здесь ничего принципиально нового, кроме цены. Подделать голос по паре минут записи, написать тысячу разных писем вместо шаблонного — раньше стоило времени и денег, теперь почти ничего.

И вот это бьёт сегодня чаще всего. Не помощник с доступом, а звонок знакомым голосом.

Что бывает. Сотрудник финансового отдела в Гонконге участвовал в видеозвонке, где и «директор», и коллеги выглядели и говорили как настоящие. Все были подделкой. Перевёл около 25 миллионов долларов.

Как понять, какая из четырёх случилась

Четыре вопроса, по порядку. Ответы на них и есть диагноз.

1. Кто действовал: помощник или человек? Если на той стороне живой человек, который вами управляет, — это четвёртая беда, остальные три вопросы можно не задавать: там нужна проверка другим путём, а не настройка помощника.
2. Ушли ли куда-то ваши данные? Вы отправили в чат договор, переписку, фото документа — это вторая беда, даже если ничего плохого пока не случилось.
3. Сделал ли помощник что-то от вашего имени? Отправил, записал, заплатил, удалил — третья беда. Тут смотрят на права, а не на слова.
4. Он только сказал — и сказал неверно? Ни данных, ни действия, ни противника, а есть уверенный ответ, который не сходится с первоисточником, — первая беда.

Ответили — идите в урок про свою беду. Бывает, что подходят две сразу: например, чужой текст с командой внутри (четвёртая) заставил помощника отправить письмо (третья). Тогда читают обе, а лечат каждую своим средством.

Почему их нельзя лечить одним лекарством

Обратите внимание на третью строку: от помощника, который делает лишнее, не спасают ни антивирус, ни сильные пароли. Он работает по вашему собственному ключу, как свой.

Что это значит лично вам

Если вы обычный человек. Из четырёх бед вас сегодня вероятнее всего коснётся последняя — поддельный звонок. С неё и начнём в следующем модуле. Остальные три держите в голове как разные, а не как одну.

Если у вас небольшое дело. Вероятнее всего вас уже коснулась вторая: кто-то из ваших вставлял документы в чат. Это делают из лучших побуждений, чтобы быстрее.

Если дело большое. Четыре беды — это четыре разных ответственных: качество ответов, обращение с данными, права доступа и обучение людей. Беда в том, что каждый считает, будто «ИИ-безопасностью» занят кто-то другой.