Цифровая гигиена: что никогда не стоит доверять искусственному интеллекту

Большинство разговоров об ИИ сосредоточены на том, что стоит делегировать ему. Реже говорят об обратном: что делегировать не стоит никогда — или только с максимальной осторожностью.

Роман Ямпольский, исследователь AI safety: «Если есть действительно что-то очень важное — просто не должно быть оцифровано. Всё должно быть дома на бумажке. Ну, как с человеком. Вы бы не дали незнакомцу доступ к своему банковскому счёту — примерно на таком уровне».

Принцип незнакомца

Метафора незнакомца — хорошая отправная точка.

ИИ-модель — это система, созданная компанией, которую вы не знаете лично, работающая на серверах, которые вы не контролируете, с политикой обработки данных, которую мало кто читает полностью. Любые данные, которые вы передаёте ИИ-системе, потенциально хранятся, анализируются, могут быть скомпрометированы при утечке.

Это не причина не использовать ИИ. Это причина думать о том, что именно вы передаёте.

Вопрос простой: «Если бы умный незнакомец прочёл это, мог бы он нанести мне вред?» Если да — это не должно идти в ИИ-систему в облаке.

Что не стоит передавать ИИ

Финансовые документы, содержащие конфиденциальные данные. Налоговые декларации, банковские выписки, данные счетов — всё, что идентифицирует ваши активы и может быть использовано для мошенничества. Ямпольский: «Для меня это было бы очень проблематично. Поэтому я стараюсь ограничивать, что они могут на моём компьютере». Пароли и ключи доступа. Никогда не вставляйте в промт реальные пароли, API-ключи, токены аутентификации «чтобы ИИ мог работать с системой». Даже если сам ИИ безопасен — ваши данные в логах. Медицинская информация с идентификаторами. Обезличенное «у меня такие симптомы» — нормально. Полная медицинская карта с именем, датой рождения, адресом — это чувствительные данные. Персональные данные третьих лиц без их согласия. Переписка с коллегами, данные клиентов, личная информация о близких. Данные, составляющие коммерческую тайну. Непубличные финансовые результаты, стратегические планы, данные клиентов, исходный код критичных систем.

Что не стоит делегировать полностью

Помимо вопроса «что передавать», есть вопрос «что делегировать».

Ямпольский описывает ситуацию с руководством компании: если CEO компании запустит ИИ-агента для управления финансами, и этот агент сделает подставные цифры «чтобы акции выросли» — CEO будет нести ответственность. Не агент.

Финальные решения, влияющие на людей. Найм, увольнение, оценка сотрудников — ИИ может помочь анализировать, но финальное решение должно быть человеческим. Это не только этика, но и юридическая ответственность. Публичные заявления без проверки. ИИ-черновик публичного поста или заявления компании требует внимательной проверки человеком перед публикацией. Ямпольский: «Не разрешайте постить в соцсети, не позволяйте отправлять письма. Пусть ИИ напишет черновик письма, а вы проверите». Верификация важных фактов. «Я не принимаю ответы ИИ в том виде, в котором он их выдаёт. Прошу показать источник, смотрю — это официальный источник, и только тогда снимаю видео». ИИ галлюцинирует. Это известный факт. Для любого утверждения, которое вы собираетесь публиковать или использовать в важном решении, — проверяйте первичный источник. Критическая инфраструктура без человеческого надзора. Системы, управляющие физической инфраструктурой, финансовыми транзакциями, медицинскими устройствами — не должны работать полностью автономно без механизмов надзора и прерывания.

Принцип минимальных привилегий

Даже для задач, которые вы доверяете ИИ, работает принцип минимальных привилегий: давать агенту только тот доступ, который строго необходим для конкретной задачи.

Если агент пишет черновики писем — ему нужен доступ к почте только для чтения и создания черновиков, не для отправки. Если агент анализирует продажи — ему нужны данные о продажах, не кадровые данные. Если агент помогает с ресёрчем — ему нужен доступ к поиску, не к вашим личным файлам.

«Наши ИИ могут заходить в Slack и в Gmail, в документы», — описывает Сал Хан практику Khan Academy. И тут же добавляет: «Не давайте ИИ делать что-то без вашего ведома».

Это два конкурирующих соображения: широкий доступ увеличивает полезность, узкий доступ увеличивает безопасность. Хорошая практика: начинать с узкого доступа и расширять только там, где польза явно превышает риск.

Практический чеклист

Перед тем как передать данные или задачу ИИ-системе, задайте себе три вопроса:

• Мог бы умный незнакомец использовать эту информацию против меня? Если да — не передавать.

• Несу ли я ответственность за результат? Если да — проверять перед использованием, не публиковать/отправлять/применять автоматически.

• Что произойдёт, если ИИ ошибётся? Если последствия обратимы и незначительны — можно делегировать. Если необратимы или значительны — добавить человеческую проверку.

Цифровая гигиена — это не паранойя. Это тот же здравый смысл, который мы применяем к банковским данным или медицинской информации. Просто применённый к новому инструменту, который обрабатывает наши данные с беспрецедентной эффективностью и масштабом.