Нахождение гармонии с инновациями, ChatGPT и безопасностью

Автор: Zscaler |

Узнайте, почему архитектура Zscaler на основе прокси построена на ведущей в отрасли платформе SSE и обеспечивает высочайший уровень безопасности для защиты современного современного бизнеса.

К настоящему моменту вы знакомы с ChatGPT. Всего через два месяца после его выпуска оно стало одним из самых быстрорастущих потребительских приложений в мире.

Из-за такого внимания каждая организация пришла к разным выводам относительно использования больших языковых моделей в продвинутых чат-ботах — как для повседневного использования технологии в работе, так и для более крупных социальных вопросов, которые они поднимают.

Для многих организаций эти инструменты вызвали значительный интерес, поскольку они стремятся использовать их для повышения производительности. Однако он также привлек внимание властей, учитывая, как он собирает и обрабатывает данные. Помимо активно обсуждаемых вопросов соответствия данных, необходимо рассмотреть вопрос о защите корпоративной интеллектуальной собственности или конфиденциальных данных клиентов от использования в ChatGPT или других проектах искусственного интеллекта.

Zscaler выявил сотни инструментов и сайтов искусственного интеллекта, включая OpenAI ChatGPT, и создал категорию URL-адресов под названием «Приложения AI и ML». Организации могут использовать эту категорию URL-адресов для выполнения нескольких различных действий: напрямую блокировать доступ к этим сайтам, расширять доступ на основе предупреждений, при котором пользователи обучаются использованию этих инструментов, или разрешать использование (но с ограничениями) посредством изоляции браузера для защиты данных. .

Теперь мы более подробно рассмотрим, как изоляция повлияет на повышение производительности при сохранении безопасности данных.

Во-первых, важно понять, почему безопасность данных так важна. The Economist Korea подробно описал предостерегающую историю по безопасности данных ChatGPT. В апреле компания Samsung стала свидетелем трех отдельных утечек конфиденциальных данных компании с помощью ChatGPT в ее подразделении полупроводников. В одном случае этот инструмент использовался для проверки конфиденциального исходного кода, другой сотрудник запросил «оптимизацию кода», а третий загрузил запись встречи для создания стенограммы. Эта информация теперь является частью ChatGPT. Со своей стороны, Samsung ограничила использование этого инструмента и может запретить его или даже создать внутреннюю версию.

В Zscaler мы обращаемся к организациям по обе стороны монеты ChatGPT, поэтому предлагаем различные действия для доступа к этим сайтам. Изоляция может помочь следующими способами.

Баланс между безопасностью данных и инновациями

Используя Zscaler Zero Trust Exchange, эти большие приложения языковой модели или интернет-адреса AI в категории URL-адресов «Приложения AI и ML» могут отображаться в изоляции браузера Zscaler. Выгода? Мощные средства контроля над тем, как обрабатываются конфиденциальные данные, как файлы, так и отдельные фрагменты конфиденциальной информации.

Для начала вы можете заблокировать все загрузки и выгрузки (на сайтах AI, которые это разрешают) и полностью ограничить доступ к буферу обмена, но, учитывая желание разрешить какое-либо использование, разрешите ввод текста. Пользователи по-прежнему могут вводить запросы и экспериментировать с полученной информацией.

А как насчет рисков, связанных с тем, что пользователи делятся конфиденциальными данными в своих запросах в чате? Благодаря изоляции браузера любые введенные конфиденциальные данные могут быть обнаружены и защищены от отправки механизмом Zscaler DLP. Более того, для полной видимости того, как сотрудники используют эти сайты, мы можем видеть и регистрировать запросы, которые сотрудники отправляют в такое место, как ChatGPT, даже если правила DLP не активированы.

Скажем, например, пользователь пытается загрузить в приглашение много текста, включая конфиденциальные данные. Пользователи могут вводить данные в рамках изоляции браузера, которая запускается как эфемерный контейнер. Тем не менее, никаким конфиденциальным данным не будет разрешено покидать компанию — они будут заблокированы в сеансе изоляции браузера.

А как насчет того, чтобы избежать проблем с интеллектуальной собственностью, гарантируя, что данные не могут быть загружены на компьютер пользователя? Этого можно избежать, изолированно блокируя загрузки или используя временное «защищенное хранилище» без передачи таких данных в конечную точку или нарушая политику загрузки/выгрузки конечной точки. Аналогично, любые выходные файлы производительности, такие как .docx, .xlsx и т. д., можно просматривать как PDF-файлы, доступные только для чтения, в этом защищенном хранилище, при этом они не обязательно загружаются на саму конечную точку.