[{"data":1,"prerenderedAt":180},["ShallowReactive",2],{"publication:ru:P089":3},{"meta":4,"copy":17,"relatedArticles":141,"terms":172,"term":173,"resourceParent":174,"glossaryParent":177},{"id":5,"path":6,"kind":7,"keyword":8,"title":9,"seoTitle":10,"description":11,"incoming":12,"updated":15,"preparedOn":16},"P089","\u002Fblog\u002Fprompt-injection-business","article","prompt injection в бизнесе","Prompt injection в бизнесе: как отделить данные от полномочий","Prompt injection: риски для бизнес-процессов","Как внешние документы и сообщения влияют на ИИ. Границы доступа, проверка действий и учебный сценарий без подключения рабочих операций.",[13,14],"\u002Fservices\u002Fsecurity-audit","\u002Fservices\u002Fcrm-integrations","2026-08-07","2026-10-31",{"intro":18,"sections":19,"checklistTitle":98,"checklist":99,"faq":106,"sources":116,"links":119,"cta":136},"Prompt injection в бизнесе возникает, когда инструкции в запросе, документе или другом входном материале меняют поведение ИИ вопреки задаче владельца процесса. Основная граница проходит между тем, что помощник читает, и тем, что система позволяет ему сделать. Содержимое письма или страницы не должно само выдавать полномочия на действие.",[20,30,36,72,83,92],{"title":21,"paragraphs":22,"sources":26},"Отделите источник информации от решения о действии",[23,24,25],"OWASP LLM01:2025 различает прямое воздействие через запрос и косвенное через материал, который система получает извне. Источником может быть документ, страница или сообщение. Риск определяется ответом модели, доступными ей данными и инструментами.","Для бизнеса полезно разделить три результата: измененный текст, раскрытие доступной информации и действие во внешней системе. Ошибочный черновик и изменение записи CRM имеют разные последствия. Качество формулировки запроса не заменяет проверку полномочий там, где выполняется операция.","Не объявляйте обычную ошибку ответа доказанной атакой. Сначала сохраните безопасное описание исходного материала, ожидаемой задачи и наблюдаемого поведения. Сравнение помогает отличить влияние источника от неверной настройки, недостатка контекста или общей ошибки модели.",[27],{"label":28,"url":29},"OWASP LLM01:2025: прямая и косвенная prompt injection","https:\u002F\u002Fgenai.owasp.org\u002Fllmrisk\u002Fllm01-prompt-injection\u002F",{"title":31,"paragraphs":32},"Нарисуйте путь от документа до последствия",[33,34,35],"Начните с одного процесса: помощник читает входящие обращения и готовит проект ответа. Запишите, какие источники он видит, под чьей учетной записью читает и какие функции может вызвать. Отдельно отметьте места, где данные переходят в запрос или действие.","Чтение также требует ограничения. Даже без отправки сообщений помощник может включить в ответ сведения, которые не нужны пользователю. Доступ к общему хранилищу и область итогового ответа нужно связывать с реальным получателем и его задачей.","Учитывайте повторные шаги: результат одного инструмента может стать входом следующего. Запись внутри найденного документа остается внешним содержимым после пересказа или преобразования. Ее происхождение не становится более доверенным от того, что модель изложила ее уверенным языком.",{"title":37,"paragraphs":38,"table":41},"Карта границ для одного бизнес-процесса",[39,40],"Таблица CyberFixCrew помогает обнаружить, где прочитанный материал может получить лишнее влияние. В каждой строке нужен владелец и проверяемое ограничение. Неизвестный путь отмечают как вопрос, а не скрывают за общей оценкой безопасности.","Для первого разбора выберите узкий сценарий с вымышленными документами. Опишите допустимый результат и запрещенные последствия заранее. Так можно обсуждать защиту без подключения рабочей почты, платежей или массового доступа к клиентской базе.",{"caption":42,"headers":43,"rows":47},"От входного материала к разрешенной операции",[44,45,46],"Граница","Что проверить","Ожидаемое ограничение",[48,52,56,60,64,68],[49,50,51],"Источник","Откуда поступает материал","Происхождение различается",[53,54,55],"Контекст","Какие данные добавляются","Только нужная область",[57,58,59],"Личность","От чьего имени идет запрос","Права конкретной задачи",[61,62,63],"Инструмент","Какие операции доступны","Ненужных функций нет",[65,66,67],"Подтверждение","Что увидит ответственный","Параметры фактического действия",[69,70,71],"Результат","Куда попадут данные","Получатель и содержание проверены",{"title":73,"paragraphs":74,"sources":79},"Проверяйте полномочия вне текста модели",[75,76,77,78],"OWASP LLM06:2025 связывает избыточную самостоятельность с лишними функциями, разрешениями и автономностью. Практическое применение - ограничивать подключенную учетную запись и доступные операции, а не только просить модель вести себя осторожно.","Сервис, выполняющий действие, должен проверить пользователя, объект, параметры и разрешенную операцию. Вывод модели рассматривается как вход для проверки. Фраза в ответе о том, что владелец согласился, не является самостоятельным подтверждением реального согласования.","Для значимых действий согласующий видит конкретную запись, адресата, поля и изменение. Если после одобрения параметры поменялись, прежнее решение не должно автоматически разрешать новую операцию. Журнал связывает запрос, подтверждение и фактический результат.","Секреты доступа не помещают в общедоступные инструкции или учебные документы. Управление ключами и разрешениями выполняется в соответствующих системах. Раскрытие текста системного промпта и раскрытие действующего ключа имеют разные причины и способы ограничения.",[80],{"label":81,"url":82},"OWASP LLM06:2025: функции, полномочия и автономность","https:\u002F\u002Fgenai.owasp.org\u002Fllmrisk\u002Fllm062025-excessive-agency\u002F",{"title":84,"paragraphs":85,"example":89},"Используйте подсказки и фильтры с ясными пределами",[86,87,88],"Разделение внешнего материала и инструкций, проверка формата и фильтры могут дополнять защиту. Однако ни одна вежливая просьба игнорировать посторонние команды не доказывает надежную границу полномочий. RAG или настройка модели сами по себе не исключают prompt injection.","В учебном сценарии заранее запишите, что система должна прочитать, какой ответ допустим и какие операции недоступны технически. Проверяйте отказ модели и отсутствие возможности выполнить несогласованное действие через подключенный инструмент.","Не переносите провокационные документы в рабочую систему ради проверки. Сначала нужен разрешенный изолированный контур, вымышленные сведения и запрет реальных внешних эффектов. Успех одного сценария относится к его условиям, а не ко всем будущим источникам.",{"title":90,"text":91},"Условный пример посторонней инструкции в обращении","Учебное обращение содержит указание изменить адрес получателя. Помощнику разрешено только подготовить черновик по вымышленным данным, а функция отправки отсутствует. Разбор проверяет границу между содержимым письма и правом действия. Это предложенная модель приемки, а не выполненный тест или подтверждение защиты конкретного продукта.",{"title":93,"paragraphs":94},"Подготовьте владельца, остановку и повторную проверку",[95,96,97],"Назначьте человека, который может приостановить интеграцию и выяснить область выполненных операций. Остановка очереди, отзыв доступа и сохранение необходимых журналов имеют разные последствия; порядок должен учитывать рабочие зависимости и полномочия исполнителя.","Сохраняйте минимальное описание события, а чувствительные документы передавайте только согласованным способом. После изменения модели, источника или инструментов пересматривайте карту границ. Отсутствие замеченной атаки не подтверждает, что доступы выбраны правильно.","CyberFixCrew - израильская компания для русскоязычных бизнесов по всему миру. Практические знания израильской команды в защите сайтов и цифровых интеграций помогают разбирать пути данных и полномочий. Область технической проверки, допустимые действия и критерии приемки согласуются для конкретного процесса.","Перед подключением внешних источников к ИИ",[100,101,102,103,104,105],"Источник, задача и ожидаемый результат разделены.","Права чтения соответствуют реальному получателю.","Ненужные инструменты и операции не предоставлены.","Проверка действия выполняется вне ответа модели.","Подтверждение привязано к объекту и параметрам.","Учебная приемка изолирована от рабочих последствий.",[107,110,113],{"question":108,"answer":109},"Системный промпт полностью защищает от prompt injection?","Нет, инструкции могут помогать направлять поведение, но не заменяют ограничения учетной записи и проверку фактического действия. Важно, какие данные и инструменты доступны, кто подтверждает операцию и где полномочия проверяются независимо от текста модели.",{"question":111,"answer":112},"RAG делает внешние документы доверенными?","Нет, поиск и добавление контекста могут улучшить релевантность ответа, но найденное содержимое остается источником данных. Его инструкции не должны автоматически менять задачу или выдавать права. Происхождение, доступ и операции требуют отдельных ограничений.",{"question":114,"answer":115},"Можно проверить риск на рабочей почте?","Сначала определите разрешенную область, вымышленные данные и изолированные инструменты без отправки и изменения рабочих объектов. Приемка должна иметь ожидаемый результат и владельца. Статья не является разрешением проводить эксперимент в реальной клиентской системе.",[117,118],{"label":28,"url":29},{"label":81,"url":82},[120,123,126,129,132,134],{"path":121,"label":122},"\u002Fblog\u002Femployee-ai-data-policy","Правила работы сотрудников с ИИ",{"path":124,"label":125},"\u002Fblog\u002Fai-agent-permissions","Права и инструменты ИИ-агента",{"path":127,"label":128},"\u002Fblog\u002Fvendor-access-review","Область доступа подрядчиков",{"path":130,"label":131},"\u002Fglossary\u002Fleast-privilege","Минимальные привилегии",{"path":13,"label":133},"Проверка безопасности сайта",{"path":14,"label":135},"Интеграции сайта и CRM",{"title":137,"description":138,"button":139,"type":140},"Разберем границы данных и действий","Опишите процесс, источники и подключенные инструменты без секретов. Согласуем область технического разбора.","Обсудить границы интеграции","check",[142,150,156,164],{"id":143,"path":124,"title":144,"description":145,"category":146,"artwork":147,"order":148,"publishedOn":149},"P090","Права доступа ИИ-агентов: инструменты, данные и подтверждение","Как связать задачу ИИ-агента с учетной записью, инструментами и разрешениями. Отдельный контроль чтения, изменений, подтверждения и остановки.","governance","access",68,"2026-07-22",{"id":151,"path":121,"title":152,"description":153,"category":146,"artwork":147,"order":154,"publishedOn":155},"P088","Правила использования ИИ сотрудниками малого бизнеса","Как согласовать задачи, данные, учетные записи и подключенные сервисы для работы с ИИ. Практическая политика, исключения и сообщения об ошибках.",84,"2026-08-21",{"id":157,"path":158,"title":159,"description":160,"category":146,"artwork":161,"order":162,"publishedOn":163},"P096","\u002Fblog\u002Fbusiness-data-map","Карта потоков данных сайта: куда попадают заявки и копии","Как проследить данные от формы до почты, CRM, журналов и резервных копий. Цель обработки, права, владельцы и неизвестные маршруты.","integrations",60,"2026-07-06",{"id":165,"path":166,"title":167,"description":168,"category":146,"artwork":169,"order":170,"publishedOn":171},"P091","\u002Fblog\u002Fsmall-business-asset-inventory","Реестр цифровых активов малого бизнеса: владельцы и зависимости","Как связать домен, хостинг, почту, интеграции, оплату и восстановление с владельцами. Рабочий реестр без хранения паролей и ключей.","servers",92,"2026-09-04",[],null,{"path":175,"label":176},"\u002Fresources","Материалы и шаблоны безопасности сайта",{"path":178,"label":179},"\u002Fglossary","Словарь кибербезопасности для бизнеса",1794134065449]