Илон Маск вновь приковывает к себе внимание громкими заявлениями. На этот раз речь идет о безопасности ИИ-агента Grok, которому доверено управление финансами пользователей. Глава xAI публично пообещал компенсировать любые потери, если бот ошибется при распоряжении средствами клиента. Звучит как революция в сфере доверия к искусственному интеллекту, но при ближайшем рассмотрении все оказывается не так однозначно.
Эксперимент с банковским счетом и обещание Маска
Поводом для дискуссии стал пост инвестора Tesla и xAI под ником Teslaconomics. Он задал провокационный вопрос: кто-нибудь уже подключил Grok к своему банковскому счету? Ведь такой агент потенциально способен отслеживать расходы, оплачивать счета и выявлять подозрительные транзакции. Один из пользователей выразил опасение, что ИИ с доступом к деньгам может натворить бед. Однако Маск не дрогнул, заявив о полной уверенности в продукте и готовности покрыть убытки в случае ошибки.
Юридические тонкости: Гарантия на $100
Бета-версия продукта увидела свет 11 августа. В xAI подчеркивают, что каждый агент функционирует автономно на собственном облачном сервере, работая даже пока владелец спит. Однако, вопреки смелым заявлениям, в пользовательском соглашении xAI прописана прямо противоположная логика. Максимальная ответственность компании ограничена суммой в $100 или размером уплаченных комиссий, в зависимости от того, что больше. Это выглядит скорее как насмешка, учитывая, что доступ к боту по тарифу SuperGrok стоит $30 в месяц, а годовая подписка — $360. Потерянные со счета средства могут быть на порядки выше.
Ключевой момент: пока гарантия Маска не закреплена юридически, любые компенсации остаются исключительно на его усмотрение. Это обещание — не более чем джентльменское соглашение, не подкрепленное формальными обязательствами.
Реальные риски и атаки на ИИ-агентов
Ситуацию усугубляют и регуляторные риски. В США действует Регламент E, защищающий потребителей от несанкционированных списаний. Однако если владелец сам предоставил боту доступ к счету, такие транзакции перестают считаться несанкционированными, и стандартные механизмы защиты не сработают. Скептики также указывают на недавние инциденты, демонстрирующие уязвимость ИИ. В мае вредоносный NFT «спрятал» инструкции, вынудившие агента перевести средства — классический пример «инъекции подсказок». В результате атаки на кошелек Bankr, связанный с Grok, было выведено около $150 000. Позже примерно 80% украденных средств удалось вернуть, а в Bankr пообещали полностью возместить потери еще 14 пострадавших кошельков. Показательно, что ни одного доказанного случая ошибки Grok с реальным банковским счетом пока не зафиксировано.
Аналитический комментарий: Этот эксперимент — не просто проверка технологии, а мощный маркетинговый ход для интеграции ИИ в повседневное управление финансами. Первый же реальный сбой станет лакмусовой бумажкой. Выбор для Маска очевиден: либо молча вернуть все средства, сохранив лицо, либо публично компенсировать лишь те самые $100, обнажив пропасть между громкими словами и юридической реальностью. Я бы не советовал доверять критически важные финансовые операции ИИ-агенту, пока его ответственность не будет подкреплена реальными гарантиями, а не только твитами.