Сегодня я хочу рассказать о том, как Оливер Фридрихс, опытный предприниматель в области кибербезопасности, создал свою четвертую компанию, сосредоточив внимание на одной из самых актуальных проблем современности — безопасности искусственного интеллекта. Его проект Pangea уже приближается к семизначному годовому доходу, и в этой статье мы разберем, как ему это удалось, какие вызовы стоят перед рынком и что ждет эту сферу в будущем.
Четвертая компания в сфере кибербезопасности
Оливер Фридрихс начал свой путь в кибербезопасности еще в конце 90-х годов, стартовав как этичный хакер. За это время он основал четыре компании, каждая из которых решала ключевые проблемы своего времени: от защиты сетей до безопасности облачных технологий. Теперь его внимание приковано к искусственному интеллекту. В 2021 году была запущена Pangea — платформа, изначально созданная для упрощения разработки безопасных облачных приложений. Тогда разработчиков становилось все больше — их число уже превысило 27 миллионов, — но специализированных инструментов для их защиты практически не существовало. Команда Pangea разработала почти два десятка сервисов, ориентированных на разработчиков, от сканирования файлов до систем авторизации. Однако настоящий поворот произошел, когда начался стремительный рост популярности ИИ.
Переход к безопасности искусственного интеллекта
С развитием технологий компании начали массово внедрять ИИ-приложения, что привело к новым рискам: утечке данных, атакам через ввод команд и раскрытию конфиденциальной информации. Традиционные инструменты безопасности оказались не готовы к таким угрозам. Оливер сравнивает эту ситуацию с эпохой появления вирусов и вредоносного ПО в 80-х и 90-х годах, когда пришлось создавать совершенно новые технологии обнаружения. Сегодняшние угрозы в сфере ИИ напоминают те времена, только теперь вместо байтов оружием стали слова. Поэтому Pangea изменила фокус, сосредоточившись на защите ИИ-приложений и агентов с нуля. На данный момент компания предлагает единую платформу для безопасности ИИ, которая помогает как разработчикам, так и командам по безопасности защищать собственные разработки и внедрение технологий ИИ сотрудниками. Ожидается, что в этом году годовой доход Pangea превысит миллион долларов.
Использование ИИ для обнаружения угроз
Одной из ключевых инноваций Pangea стало использование генеративного ИИ для выявления угроз, связанных с самим ИИ. Компания дорабатывает небольшие модели с параметрами около 300 миллионов, чтобы обнаруживать атаки через ввод команд на почти 100 языках. Опираясь на многолетний опыт работы в крупных корпорациях, таких как Symantec, Cisco и McAfee, где Оливер руководил командами по исследованию вредоносного ПО с эффективностью обнаружения более 99,9%, он заявляет, что аналогичный уровень точности достигнут и в выявлении атак на ИИ. Поскольку независимых тестирующих организаций в этой сфере пока нет, Pangea разработала свои защитные механизмы, разделив их на четыре основные категории: обнаружение атак через ввод команд (главная угроза по версии OWASP для больших языковых моделей), выявление конфиденциальной информации и персональных данных (более 50 типов), фильтрация вредоносного контента с использованием данных от партнеров, а также проверка соответствия контента целям организации. Эти механизмы легли в основу нового продукта для команд безопасности — AI Detection & Response (AIDR), который охватывает различные форматы датчиков и объединяет политику и обнаружение угроз в единую систему, помогая предприятиям контролировать использование ИИ.
Создание масштабируемой платформы
Pangea разработана так, чтобы быть готовой к интернет-масштабам и максимально удобной для разработчиков. Платформа предлагает опыт, схожий с известными сервисами, где любой может зарегистрироваться, получить токен авторизации и сразу начать использовать API для внедрения защитных механизмов в свои ИИ-приложения. Доступны различные варианты интеграции: API с поддержкой SDK на популярных языках программирования, интеграции с шлюзами ИИ, прокси для очистки контента, генерируемого моделями, расширения для браузеров для отслеживания неконтролируемого использования ИИ, а также гибкость развертывания — локально или через облачный сервис. Платформа также поддерживает защиту для ИИ-шлюзов, интеграцию с системами управления безопасностью и форматами логов для повышения прозрачности в облачных средах. Основная цель — легко вписаться в существующую инфраструктуру компаний.
Быстро меняющийся рынок ИИ-безопасности
Одной из главных сложностей является стремительное развитие рынка. Каждая модель ИИ имеет свои защитные механизмы, а новые появляются постоянно. Некоторые из них сложнее обойти, другие — уязвимы. Нельзя полагаться только на встроенную защиту моделей. Кроме того, постоянно возникают новые угрозы. Например, исследователи Pangea выявили уязвимость, которая позволяет обходить фильтры вредоносного контента в популярных моделях, используя определенные формулировки. В целом, компании сталкиваются с двумя основными категориями рисков: использование сотрудниками непроверенных сторонних инструментов ИИ, что может привести к утечке данных, и создание собственных систем на базе ИИ, таких как чат-боты, которые подвержены атакам.
Многосторонний подход к росту
Pangea применяет комплексный подход к развитию: упрощение использования API для разработчиков, работа с командами безопасности и руководителями по информационной защите, создание образовательного контента (например, классификация методов атак), а также вклад в проекты с открытым кодом для укрепления репутации. Компания заключила стратегические партнерства с крупными игроками рынка и привлекла инвестиции от известных фондов, что подтверждает эффективность их подхода. В начале 2025 года Pangea запустила интерактивный проект в формате виртуальной комнаты-головоломки, чтобы в увлекательной форме рассказать о реальных угрозах в сфере ИИ и привлечь внимание разработчиков.
Проблемы обучения рынка
Одной из главных задач остается просвещение. Многие команды сосредоточены на создании функционала ИИ-приложений, не уделяя должного внимания безопасности, и осознают важность защиты только на поздних этапах. Оливер отмечает, что, если бы он начинал заново, то в первую очередь работал бы с командами безопасности, которые, понимая риски, могли бы вовлечь разработчиков в процесс.
Советы для предпринимателей и разработчиков
Оливер делится несколькими рекомендациями для тех, кто работает в этой сфере: с самого начала проектируйте системы с учетом масштабирования, даже если начинаете с малого; уделяйте внимание удобству использования продукта, чтобы его было легко интегрировать; учитывайте зрелость рынка, ведь безопасность ИИ становится приоритетом только на стадии внедрения; делитесь знаниями, чтобы завоевать доверие. И главное — безопасность в ИИ нельзя откладывать на потом. Скорость, масштаб и автономность этих технологий означают, что риски растут быстрее, чем когда-либо. Защитные механизмы должны быть встроены с самого начала.
Что ждет Pangea в будущем?
Искусственный интеллект внедряется повсеместно с рекордной скоростью, но при этом остается слепым пятном в плане безопасности. Pangea недавно представила новый продукт AIDR и продолжает развивать свои защитные механизмы для ИИ-приложений. Исследовательское подразделение компании активно работает над защитой от новых угроз, таких как атаки через изображения, и предлагает услуги по тестированию уязвимостей. Технологии ИИ проникают во все сферы, и важно уже сейчас создавать инфраструктуру, чтобы предотвратить возможные инциденты. Если вас интересует эта тема, вы можете найти больше информации о платформе и ресурсах Pangea на их официальном сайте.