Выявление системных уязвимостей LLM | Александр Чибисов | Магия Нейросетей

Все ссылки в описании урока 👇
Ведущий: Александр Чибисов

🔗 Ютуб - https://youtube.com/@Neural_Magic
🔗 ТГ канал - https://t.me/NeuralMagic_official

Обещанная ссылка из видео - https://www.aicrowd.com/challenges/hackaprompt-2023
———————————————

Сегодня поговорим об уязвимостях в больших языковых моделях. Большие языковые модели могут нести риски предвзятости, нарушения конфиденциальности и создания недостоверной информации, требуя внимания к безопасности и этике в их разработке и использовании.

————————————————

🦔 Подпишись на Telegram-канал *CyberYozh*
⚠️ Эксклюзивный контент от лучших экспертов на грани добра и зла: https://t.me/+Js93xt0NFmJiOWZi

————————————————

*Курсы от CyberYozh Academy*
Образовательная платформа CyberYozh Education
👉 https://edu.cyberyozh.com/subjects/

🤖 *Андроид-Паноптикум*: https://academy.cyberyozh.com/courses/android_panopticon?utm_source=youtube&utm_medium=cyberweekend
🥷 *Автоматизатор*: https://academy.cyberyozh.com/courses/automator/ru?utm_source=youtube&utm_medium=cyberweekend
🥷 *Взлом антифрод-систем*: https://academy.cyberyozh.com/courses/antifraud?utm_source=youtube&utm_medium=cyberweekend
🔑 *Hacker Point*: https://academy.cyberyozh.com/courses/hacker?utm_source=youtube&utm_medium=cyberweekend
💎 *Автоматизация в BlockChain-проектах на Python / Retro Airdrop*: https://academy.cyberyozh.com/courses/retro_air_drop?utm_source=youtube&utm_medium=cyberweekend
🥸 *Анонимность и безопасность 2.0*: https://academy.cyberyozh.com/courses/anonymous?utm_source=youtube&utm_medium=cyberweekend
🕵️‍♂️ *Кибердетектив*: https://academy.cyberyozh.com/courses/cyberdetective?utm_source=youtube&utm_medium=cyberweekend
🐧 *CyberPunk Linux*: https://academy.cyberyozh.com/courses/linuxcyberpunk?utm_source=youtube&utm_medium=cyberweekend

————————————————

Инструменты для пробива данных c искусственным интеллектом
👉 Можно найти в нашем боте *«Библиотека Кибердетектива»* https://t.me/cyberdetectiveLIB_bot

————————————————

Таймкоды:
00:00 – Какие преимущества и недостатки мы наблюдаем у нейросетей сейчас
01:14 – Оперативное внедрение - главная уязвимость современных ИИ
03:20 – Вывод нежелательного контента в ответ Jailbreak
04:37 – Игнорирование контекста
05:34 – Атака с использованием стиля
07:03 – Повторение инструкций. Отвлечение внимания
08:17 – Атака с несколькими примерами. Атака по словарю
09:00 – Когнитивный хакинг. Переполнение контекста
10:00 – Итоги

————————————————

Дисклеймер!

Данное видео имеет исключительно образовательный характер. Мы не пропагандируем незаконные действия и не несем ответственности за их использование. Вся информация, предоставленная в наших видео, должна использоваться только в целях самообразования и повышения квалификации. Мы настоятельно рекомендуем соблюдать законы и уважать права других людей.

С уважением, Команда CyberYozh

Мы за свободный интернет, но будем очень благодарны, если при распространении этого ролика вы добавите на нас ссылку. Спасибо!

Контекст ролика:
cyberyozh; android, фишки android, профессиональный android

Теги:
#нейросеть #ии #анонимность