{"repo":"LLAMATOR-Core/ai-agents-security","free":true,"listed":false,"github":"https://github.com/LLAMATOR-Core/ai-agents-security","clone":"git clone https://github.com/LLAMATOR-Core/ai-agents-security.git","description":"Инициатива, посвященная безопасности агентов на базе искусственного интеллекта","language":"Jupyter Notebook","stars":51,"topics":["agents","ai","ai-safety","ai-security","chatbot","crewai","langchain","llm","owasp","rag"],"license":"Apache-2.0","category":"ai-agents","readme_excerpt":"Безопасность ИИ-агентов Цель данного проекта: собрать разнообразные интерактивные примеры агентных систем под управлением моделей искусственного интеллекта, которые могут быть взломаны или могут принести вред. Репозиторий создан при поддержке интерактивного пространства Jay Flow компании Just AI и Лаборатории безопасности ИИ компании Raft и Университета ИТМО. - Как пользоваться этим репозиторием? - Контакты - Бот в Telegram - Примеры небезопасных агентов - RAG вымышленной компании BYTESTREAM - Криптоагент Freysa - Помощник HR - Анализ безопасности программного кода - Узнать пароль - Сделать заказ анонимно Как пользоваться этим репозиторием? 1. Импортируйте на Jay Flow файл agents.jayflow, чтобы попробовать взломать агентов самостоятельно 2. Воспользуйтесь файлом llamator.ipynb, чтобы атаковать агентов автоматически с помощью инструмента LLAMATOR 3. Добавьте новые примеры небезопасных агентов (см. CONTRIBUTING.md) Контакты Telegram-канал AI Security Lab Telegram-чат AI Security LLAMATOR Бот в Telegram Вы также можете практиковаться во взломе агентов в чат-боте @hackLLMbot. С появлением новых агентов в этом репозитории в Telegram-бота тоже приходят уведомления. Примеры небезопасных агентов RAG вымышленной компании BYTESTREAM Гардрейлы чат-бота, который отвечает на вопросы о компании BYTESTREAM по документам, можно обойти с помощью промпт-инъекций и джейлбрейков . Джейлбрейки можно генерировать автоматически с помощью атаки атаки AutoDAN-Turbo из библиотеки LLAMATOR и атакующей ","default_branch":null,"files":null,"tree":[],"storefront":"/r/LLAMATOR-Core","claimed":false,"request_supported":{"post":"https://gitbuyer.com/r/LLAMATOR-Core/ai-agents-security/request-supported","requests":0},"note":"indexed from public GitHub; nothing is for sale on this page. Clone it from GitHub. Paid listings live at /search."}