BlindChat, альтернатива ChatGPT с открытым исходным кодом и защитой конфиденциальности, только что была запущена компанией MithrilSecurity. BlindChat – это инициатива ИИ с открытым исходным кодом, направленная на создание первого в мире разговорного ИИ, который работает полностью в веб-браузере без какого-либо стороннего доступа. Распространенные сегодня повседневные решения в области искусственного интеллекта обычно включают обмен пользовательскими данными с поставщиками услуг искусственного интеллекта в обмен на использование модели искусственного интеллекта. Пользователи рискуют, что их данные будут украдены, если они позволят этому случиться. Поскольку данные являются ценным ресурсом для улучшения LLM, несколько подходов неявно корректируют данные пользователей для лучшего обучения модели. Пользователи подвергаются опасности, что LLM таким образом запоминают личную информацию.
Выполняя локальный вывод или используя безопасные изолированные среды, называемые secure enclaves, BlindChat гарантирует, что данные пользователей всегда остаются конфиденциальными и что они сохраняют полный контроль над ними.
BlindChat ориентирован на две основные аудитории:
- Потребители: Предлагайте новые, более безопасные опции, в которых приоритет отдается конфиденциальности пользователей. Большинство потребителей в настоящее время передают данные службам искусственного интеллекта, однако настройки конфиденциальности часто требуют уточнения или вообще отсутствуют.
- Команда BlindChat проделала обширную работу по обеспечению простоты настройки и развертывания платформы в интересах разработчиков, чтобы они могли с большей готовностью предоставлять приватный диалоговый искусственный интеллект.
MithrilSecurity изменила программу, чтобы позволить браузеру выполнять функции, обычно выполняемые сервером. Следовательно, поставщик услуг искусственного интеллекта не включен в модель доверия, и таким образом защищена конфиденциальность.
Прозрачный и безопасный ИИ достигается за счет переноса функциональности с сервера в браузер на стороне пользователя. Это защищает личную информацию конечных пользователей и предоставляет им свободу действий над своими данными. Например, transformers позволяют выполнять вывод локально.JavaScript с дополнительным удобством сохранения чатов в истории браузера пользователя. В результате администраторы сервиса искусственного интеллекта не могут видеть никакой информации о пользователе — отсюда и название сервиса “BlindChat”.
Когда активирован режим удаленного анклава, данные передаются только на сервер. Этот параметр развертывает сервер внутри проверенного и безопасного контейнера, известного как анклав, который обеспечивает полную защиту периметра и блокирует доступ из внешнего мира. Никто не может получить доступ к пользовательской информации, даже администраторы поставщика искусственного интеллекта анклава.
У MithrilSecurity есть два различных варианта конфиденциальности, доступных пользователям:
- Модель загружается локально в браузер пользователя в настройках устройства, а вывод обрабатывается локально.
- Из-за доступной пропускной способности и ограничений вычислительной мощности этот режим лучше всего подходит для менее сложных моделей.
При использовании API-интерфейсов искусственного интеллекта с нулевым доверием информация передается в анклав, безопасное место, где хранится модель, чтобы ее можно было вычислять удаленно. Эти настройки обеспечивают всестороннюю безопасность благодаря строгой изоляции и проверке. Ни один поставщик услуг искусственного интеллекта никогда не имеет незашифрованного доступа к данным своих пользователей.
Проект состоит из трех основных частей:
- Пользовательский интерфейс: лицо, которое пользователь видит при взаимодействии с чатом. Там есть окно чата, и в конечном итоге появятся виджеты и плагины для таких вещей, как загрузка документов и голосовое управление.
- Разработчики имеют полный контроль над тем, какой частный LLM используется для обработки запросов пользователей. Текущие решения представляют собой локальные модели или удаленные анклавы для обеспечения прозрачного и конфиденциального вывода.
- Тип хранилища, используемого для хранения данных, таких как журналы чатов и, в будущем, встраивания RAG, настраивается разработчиками.
В настоящее время MithrilSecurity поддерживает только вывод LaMini-Flan-T5. После выхода 370M они намерены интегрировать Microsoft phi-1.5 для повышения производительности. Интеграция LlamaIndex-TS на стороне клиента также находится в стадии разработки, поэтому RAG можно использовать локально в браузере для запроса конфиденциальных документов.
Related Posts
Реляционное глубокое обучение: Новая эра машинного обучения на реляционных базах данных
Искусственный интеллект ускоряет разработку кода быстрее, чем могут успевать команды безопасности
