Нейросети Алиса и Боб от Google научились защищаться от кибератак

Чтобы выяснить, смогут ли нейросети самостоятельно учиться шифрованию, подразделение Google Brain использовало глубокое машинное обучение, создав специальную демонстрационную игру с тремя самыми известными в мире криптографии персонажами: Алиса, Боб и Ева — под каждым из ников скрывается нейросеть.

Персонажи осуществляют свои традиционные задачи: Алиса зашифровывает и пересылает сообщение из 16 нулей и единиц Бобу, который это сообщение должен верно расшифровать. Перед началом игры два бота обмениваются общим ключом к шифру — основой того, что участники верно поймут друг друга.

Задача третьего игрока — Евы — смоделировать атаку типа MITM (man in the middle). Ева условно располагается на пути передаваемого Алисой сообщения и пытается украсть/изменить содержимое так, чтобы Боб не заметил, что до него сообщение видел кто-то еще. В созданной Google демонстрации Алиса оказалась не такой простой и каждый раз трансформировала способ шифрования сообщений, чтобы Еве не удалось получить информацию, которая в них содержится. Вслед за Алисой механизм расшифровки также менял и Боб.

Физики описали возможность обойти Второй закон термодинамики

Идеи

Успех Евы оценивался тем, как точно она сможет расшифровать украденное сообщение. Результат Алисы состоял в том, насколько далеким от оригинала будет расшифровка Евы. А Боб оценивался по тому, достиг ли он заранее обозначенного порога в получении верных сообщений.

В ходе теста первые 7000 сообщений не подвергались сложному шифрованию. Соответственно, Боб с легкостью получал содержимое, но информация также доставалась и Еве. В итоге, на следующих 6000 сообщениях Алиса и Боб самостоятельно усложнили алгоритм шифрования. У Евы не осталось шансов: из 16 символов она стабильно ошибалась в 7-8, в то время как Боб получал точную информацию.

К 2021 году миром будет править большая семерка IT-компаний

Мнения

В результате ученые добились того, что нейросети самостоятельно приспособились к угрозе и усложнили механизмы защиты. На данный момент сами ученые не понимают, как именно нейросетям удалось построить новый алгоритм. Для этого им потребуется время и анализ. Ранее Google начала тестировать так называемую «постквантовую криптографию». ИТ-гигант активно готовится к наступлению новых видов киберугроз.