Пресс-релизы // » Добавить пресс-релиз

Deepfakes Lab: распознавание дипфейков и защита от них с помощью новейших технологий ИИ

27.11.2020, Москва. Ложь бывает вредна, и это не новость. Нас как читателей могут вводить в заблуждение даже заголовки и текст, ложные новости и высказывания. И тем не менее, способность изменять реальность совершила рывок вперед с появлением технологии «дипфейков», которая позволяет создавать изображения и видео, где реальные люди произносят или делают то, чего они никогда не говорили и не делали. Методы глубокого обучения повышают уровень детализации этой технологии, создавая ещё более реалистичный контент, который становится всё сложнее распознать.
Дипфейки начали привлекать к себе внимание, когда в конце 2017 г. фейковое «видео для взрослых» с участием актрисы фильма «Чудо-женщина» было выложено на Reddit пользователем с ником «deepfakes». Затем было выпущено несколько смонтированных видеороликов с участием звезд первой величины, некоторые из которых носили исключительно развлекательный характер, а другие — выставляли знаменитостей в унизительном свете. Все это представляет собой реальную угрозу. Популярный в Интернете контент и так искажает истину, чтобы набрать просмотры, а информация в социальных сетях представляется и потребляется через фильтр наших субъективных мнений.
Дипфейки существенно усугубят эту проблему. Звездные знаменитости, политики и даже бренды могут столкнуться с беспрецедентными угрозами, от запугивания до умышленного подрыва имиджа. Не менее серьезны риски, которым подвергается наше правосудие, политика и национальная безопасность. Представьте себе экономику даркнета, в которой создатели дипфейков генерируют заведомо ложный контент, который выпускается с целью повлиять на то, какой автомобиль мы покупаем, в какой супермаркет ходим, и даже за какого кандидата на политический пост отдаем свой голос. Дипфейки могут затронуть все сферы нашей жизни, следовательно, элементарная защита от них принципиальна важна.
Как создаются дипфейки?
Дипфейки — результат новейших достижений в сфере искусственного интеллекта (ИИ), к которому нередко прибегают злоумышленники, использующие эту технологию для генерации всё более реалистичных и убедительных фальшивых изображений, видео, голосовых записей и текстов. Эти видео создаются путем наложения существующих изображений, аудио и видео на исходные медиафайлы с помощью передового метода глубокого обучения (deep learning) под названием «генеративно-состязательные нейросети» (ГСС). ГСС — относительно новая концепция в области ИИ, целью которой является синтез искусственных изображений, неотличимых от подлинных. В методике ГСС одновременно задействованы две нейросети: одна сеть, называемая «генератор», использует набор данных для создания образца, имитирующего их. Другая сеть, известная как «дискриминатор», оценивает, насколько генератору это удалось. При многократном повторении оценки дискриминатора оказывают влияние на оценки генератора. Прогрессирующее совершенствование методики ГСС привело к созданию ещё более убедительных дипфейков, которые практически невозможно разоблачить, и результат намного превосходит по скорости, масштабу и точности тот, которого могли бы достичь люди-эксперты.
Чтобы минимизировать эту угрозу, компания McAfee запустила McAfee Deepfakes Lab. Её цель — сосредоточить высококлассные инструменты и экспертные знания в области анализа и обработки данных на противодействии угрозе дипфейков для отдельных людей, организаций, демократии и в целом для достоверности информации в нашем обществе. Deepfakes Lab сочетает в себе компьютерное зрение и методы глубокого обучения для анализа и расшифровывания скрытых закономерностей и распознавания элементов фальсифицированных видео, которые играют ключевую роль в аутентификации подлинных медиафайлов.
Чтобы обеспечить понятность результатов прогнозирования фреймворка глубокого обучения и источника решения, для каждого прогноза, мы потратили немало времени на визуализацию слоев и фильтров наших сетей, а затем добавили модельно-независимый фреймворк с объяснительной способностью поверх фреймворка для распознавания. Наличие объяснений для каждого прогноза помогает нам принять обоснованное решение о том, насколько мы уверены в достоверности изображения и модели, а также получить данные, которые могут быть использованы для её улучшения.
Мы также провели всестороннюю валидацию и верификацию фреймфорка для распознавания на большом наборе данных и протестировали возможности обнаружения на дипфейках, найденных на просторах интернета. Наш фреймворк для распознавания смог обнаружить недавнее дипфейк-видео с главой Facebook Марком Цукербергом, выступающим с короткой речью о возможностях больших данных. Этот инструмент не только представил точную оценку распознавания, но и сгенерировал тепловые карты с помощью модельно-независимого объясняющего модуля, выделив те участки его лица, которые способствовали принятию решения, тем самым повышая доверие к нашим прогнозам.
Подобные легкодоступные дипфейки подтверждают проблемы, с которыми сталкиваются социальные сети, когда дело касается контроля за сфабрикованным контентом. Поскольку развитие методики ГСС позволяет создавать очень реалистичные поддельные изображения, необходимо будет разработать усовершенствованные методы компьютерного зрения для выявления и распознавания более сложных типов дипфейков. Кроме того, необходимо принять меры по защите от дипфейков с помощью водяных знаков (вотермарков) или аутентификационного следа.
Сигнал тревоги
Мы понимаем, что средства массовой информации действительно обладают значительной властью в формировании общественного мнения и убеждений. Как следствие, достоверность информации в них нередко приносится в жертву во имя максимального воздействия. Поговорка «одна картинка стоит тысячи слов» подчеркивает значимость феномена дипфейков. Правдоподобные, но сфальсифицированные аудио, видео и тексты будут иметь огромное влияние, которое может быть использовано для того, чтобы испортить репутацию знаменитости или бренда, а также воздействовать на политические убеждения с ужасающими последствиями. Компьютерное зрение и фреймворки для обнаружения дипфейков на основе глубокого обучения способны аутентифицировать и распознавать поддельные визуальные медиа и текстовые материалы, но ущерб репутации и влияние на общественное мнение, тем не менее, остаются.

Контактное лицо: Краснова Варвара
Компания: McAfee
Добавлен: 16:24, 01.12.2020 Количество просмотров: 282
Страна: Россия


RAEX: BSS укрепила позиции в Топ-12 рэнкинга крупнейших ИТ-разработчиков программного обеспечения, BSS, 15:27, 02.10.2025, Россия102
Также по версии агентства RAEX BSS вошла в список 24 крупнейших ИТ-компаний, а в рейтинге «Дистрибуция» занимает 4-е место.


Система управления доступом NS.IDM включена в реестр отечественного ПО, Систематика Консалтинг, 15:24, 02.10.2025, Россия101
Комплексное решение для управления ресурсами и правами приложений, учётными данными пользователей и организаций NS.IDM включено в Единый реестр российских программ для электронных вычислительных машин и баз данных.


Индид помог ИТ-интегратору СТК повысить безопасность привилегированного доступа, Индид, 15:24, 02.10.2025, Россия102
Индид, российский разработчик комплекса решений в области защиты айдентити, успешно внедрил Indeed Privileged Access Manager (Indeed PAM) в компании «Специальные технологии контроля» (СТК). Продукт, предназначенный для управления привилегированным доступом, обеспечил безопасное централизованное управление учетными записями пользователей с расширенными правами доступа к критически важным информационным ресурсам.


Объявлены победители конкурса «Лучший Auto-ID проект 2024-2025», ID Expert, 15:23, 02.10.2025, Россия113
В этом году на конкурс «Лучший Auto-ID проект» были поданы заявки в девяти номинациях, включая логистику, производство, ритейл, здравоохранение, транспорт, банковскую сферу и культуру


АНО «НЦК ИСУ» и вендор Global ERP заключили соглашение о сотрудничестве в сфере развития отечественных систем класса ERP, НЦК ИСУ, 12:50, 02.10.2025, Россия78
Автономная некоммерческая организация «Национальный центр компетенций по информационным системам управления холдингом» (АНО «НЦК ИСУ») и компания ООО «Бизнес Технологии», разработчик отечественной системы Global ERP, подписали соглашение о партнерстве.


Hybe: более 80% инвентаря Connected TV в России не передает данные о провайдере, Hybrid, 12:49, 02.10.2025, Россия84
Аналитики платформы для продвижения мобильных приложений Hybe, которая входит в состав AdTech-экосистемы Hybrid, выявили ключевые проблемы рынка Connected TV (CTV) в России, которые осложняют для рекламодателей работу с таргетингом и верификацией показов.


Fork-Tech: главная причина неудачного внедрения AI-проектов — корпоративная культура, Fork-Tech, 12:49, 02.10.2025, Россия86
Консультант, разработчик и интегратор инновационных ИТ-решений в финтехе Fork-Tech провел анализ барьеров внедрения искусственного интеллекта в российских компаниях.


Space вошел в ТОП-3 по выручке среди крупнейших разработчиков отечественных платформ виртуализации по версии TAdviser, ДАКОМ М, 12:49, 02.10.2025, Россия85
Компания «ДАКОМ М» (бренд Space), российский разработчик ИТ-решений, вошла в ТОП-3 по выручке среди крупнейших разработчиков отечественных платформ виртуализации по версии TAdviser.


В Новосибирске при поддержке «1С-Рарус» открыли ИТ-лабораторию для школьников, 1С-Рарус, 12:26, 02.10.2025, Россия53
В Новосибирской области при поддержке правительства региона, фирмы «1С» и компании «1С-Рарус» открыли ИТ-лабораторию для школьников. Программа обучения программированию будет интегрирована в образовательный процесс и поможет готовить кадры для цифровой экономики страны.


Хранилище данных ATLAS ускорило доступ к важной информации Самарской Губернской Думы, ATLAS, 09:57, 02.10.2025, Россия65
Компания ATLAS, российский разработчик и производитель решений для хранения, передачи и обработки данных, завершила проект по созданию надёжного хранилища для официального интернет-портала Самарской Губернской Думы.


Академия Directum обучает экспертов по новым программам развития, Directum, 09:55, 02.10.2025, Россия78
Учебное подразделение Directum представило персональные программы развития на основе курсов освоения Directum RX. Треки помогают специалистам разных профилей — как бизнес-пользователям, так и разработчикам — максимально эффективно двигаться к целям в профессиональном и карьерном росте.


Телфин маркирует бизнес-звонки компаний, Телфин, 22:40, 01.10.2025, Россия195
Телфин вводит сервис маркировки исходящих звонков для юридических лиц и индивидуальных предпринимателей. Теперь во время звонка клиент видит название компании и категорию вызова. Это не только обеспечивает соблюдение требований Федерального закона «О связи» от 01.04.2025, но и увеличивает доверие со стороны клиентов и повышает уровень дозвона.


Ежегодная онлайн-конференция BIA Technologies: эксперты поделились инновационными практиками в сфере 1С, BIA Technologies, 22:31, 01.10.2025, Россия158
Профильное мероприятие для специалистов сферы 1С – собственная ежегодная конференция BIA Technologies - БИАТЕХ#1С собрала более 900 участников. Эксперты ИТ-компании поделились инновационной практикой в 1С проектах, обсудили методы повышения эффективности работы и карьерные треки в 1С-разработке. Мероприятие прошло 18 сентября.


Hybrid Metaverse запустил первую в России платформу для рекламы в метавселенных, Hybrid, 22:24, 01.10.2025, Россия153
Компания Hybrid Metaverse, входящая в AdTech-экосистему Hybrid, представила первую в России платформу для размещения рекламы внутри метавселенных — Hybrid Metaverse Ads


«1С ПРО Консалтинг» запускает новый поток образовательного курса по методологии и автоматизации бюджетирования компаний, 1С ПРО Консалтинг, 22:23, 01.10.2025, Россия146
Компания «1С ПРО Консалтинг», которая специализируется на системно-ориентированной методологии внедрения корпоративных решений на платформе «1С», объявляет о запуске нового потока образовательного курса, посвященного разработке методологии и автоматизации бюджетирования.


  © 2003-2025 inthepress.ru