Как создать безопасный ИИ? #3,5. Взлом вознаграждения 2/2 [Robert Miles]

Продолжаем обсуждать, как искусственный интеллект может обмануть окружающих и самого себя, чтобы получить наибольшее вознаграждение.

Поддержать проект можно по ссылкам:
Если вы в России: https://boosty.to/vertdider
Если вы не в России: https://www.patreon.com/VertDider

Плейлист «Конкретные проблемы безопасности ИИ»: https://www.youtube.com/playlist?list=PLqL14ZxTTA4fEp5ltiNinNHdkPuLK4778

Видео Computerphile: https://youtu.be/9nktr1MgS-A

Статья «Конкретные проблемы безопасности ИИ»: https://arxiv.org/pdf/1606.06565.pdf

Канал Сета Блинга: https://www.youtube.com/user/sethbling

Перевод: Александр Пушкин
Редактура: Алексей Малов
Научный редактор: Михаил Самин
Озвучка: Станислав Черсков, Борис Быстров
Монтаж видео: Джон Исмаилов
Обложка: Андрей Гавриков