Пресс-релизы // » Добавить пресс-релиз

Deepfakes Lab: распознавание дипфейков и защита от них с помощью новейших технологий ИИ

27.11.2020, Москва. Ложь бывает вредна, и это не новость. Нас как читателей могут вводить в заблуждение даже заголовки и текст, ложные новости и высказывания. И тем не менее, способность изменять реальность совершила рывок вперед с появлением технологии «дипфейков», которая позволяет создавать изображения и видео, где реальные люди произносят или делают то, чего они никогда не говорили и не делали. Методы глубокого обучения повышают уровень детализации этой технологии, создавая ещё более реалистичный контент, который становится всё сложнее распознать.
Дипфейки начали привлекать к себе внимание, когда в конце 2017 г. фейковое «видео для взрослых» с участием актрисы фильма «Чудо-женщина» было выложено на Reddit пользователем с ником «deepfakes». Затем было выпущено несколько смонтированных видеороликов с участием звезд первой величины, некоторые из которых носили исключительно развлекательный характер, а другие — выставляли знаменитостей в унизительном свете. Все это представляет собой реальную угрозу. Популярный в Интернете контент и так искажает истину, чтобы набрать просмотры, а информация в социальных сетях представляется и потребляется через фильтр наших субъективных мнений.
Дипфейки существенно усугубят эту проблему. Звездные знаменитости, политики и даже бренды могут столкнуться с беспрецедентными угрозами, от запугивания до умышленного подрыва имиджа. Не менее серьезны риски, которым подвергается наше правосудие, политика и национальная безопасность. Представьте себе экономику даркнета, в которой создатели дипфейков генерируют заведомо ложный контент, который выпускается с целью повлиять на то, какой автомобиль мы покупаем, в какой супермаркет ходим, и даже за какого кандидата на политический пост отдаем свой голос. Дипфейки могут затронуть все сферы нашей жизни, следовательно, элементарная защита от них принципиальна важна.
Как создаются дипфейки?
Дипфейки — результат новейших достижений в сфере искусственного интеллекта (ИИ), к которому нередко прибегают злоумышленники, использующие эту технологию для генерации всё более реалистичных и убедительных фальшивых изображений, видео, голосовых записей и текстов. Эти видео создаются путем наложения существующих изображений, аудио и видео на исходные медиафайлы с помощью передового метода глубокого обучения (deep learning) под названием «генеративно-состязательные нейросети» (ГСС). ГСС — относительно новая концепция в области ИИ, целью которой является синтез искусственных изображений, неотличимых от подлинных. В методике ГСС одновременно задействованы две нейросети: одна сеть, называемая «генератор», использует набор данных для создания образца, имитирующего их. Другая сеть, известная как «дискриминатор», оценивает, насколько генератору это удалось. При многократном повторении оценки дискриминатора оказывают влияние на оценки генератора. Прогрессирующее совершенствование методики ГСС привело к созданию ещё более убедительных дипфейков, которые практически невозможно разоблачить, и результат намного превосходит по скорости, масштабу и точности тот, которого могли бы достичь люди-эксперты.
Чтобы минимизировать эту угрозу, компания McAfee запустила McAfee Deepfakes Lab. Её цель — сосредоточить высококлассные инструменты и экспертные знания в области анализа и обработки данных на противодействии угрозе дипфейков для отдельных людей, организаций, демократии и в целом для достоверности информации в нашем обществе. Deepfakes Lab сочетает в себе компьютерное зрение и методы глубокого обучения для анализа и расшифровывания скрытых закономерностей и распознавания элементов фальсифицированных видео, которые играют ключевую роль в аутентификации подлинных медиафайлов.
Чтобы обеспечить понятность результатов прогнозирования фреймворка глубокого обучения и источника решения, для каждого прогноза, мы потратили немало времени на визуализацию слоев и фильтров наших сетей, а затем добавили модельно-независимый фреймворк с объяснительной способностью поверх фреймворка для распознавания. Наличие объяснений для каждого прогноза помогает нам принять обоснованное решение о том, насколько мы уверены в достоверности изображения и модели, а также получить данные, которые могут быть использованы для её улучшения.
Мы также провели всестороннюю валидацию и верификацию фреймфорка для распознавания на большом наборе данных и протестировали возможности обнаружения на дипфейках, найденных на просторах интернета. Наш фреймворк для распознавания смог обнаружить недавнее дипфейк-видео с главой Facebook Марком Цукербергом, выступающим с короткой речью о возможностях больших данных. Этот инструмент не только представил точную оценку распознавания, но и сгенерировал тепловые карты с помощью модельно-независимого объясняющего модуля, выделив те участки его лица, которые способствовали принятию решения, тем самым повышая доверие к нашим прогнозам.
Подобные легкодоступные дипфейки подтверждают проблемы, с которыми сталкиваются социальные сети, когда дело касается контроля за сфабрикованным контентом. Поскольку развитие методики ГСС позволяет создавать очень реалистичные поддельные изображения, необходимо будет разработать усовершенствованные методы компьютерного зрения для выявления и распознавания более сложных типов дипфейков. Кроме того, необходимо принять меры по защите от дипфейков с помощью водяных знаков (вотермарков) или аутентификационного следа.
Сигнал тревоги
Мы понимаем, что средства массовой информации действительно обладают значительной властью в формировании общественного мнения и убеждений. Как следствие, достоверность информации в них нередко приносится в жертву во имя максимального воздействия. Поговорка «одна картинка стоит тысячи слов» подчеркивает значимость феномена дипфейков. Правдоподобные, но сфальсифицированные аудио, видео и тексты будут иметь огромное влияние, которое может быть использовано для того, чтобы испортить репутацию знаменитости или бренда, а также воздействовать на политические убеждения с ужасающими последствиями. Компьютерное зрение и фреймворки для обнаружения дипфейков на основе глубокого обучения способны аутентифицировать и распознавать поддельные визуальные медиа и текстовые материалы, но ущерб репутации и влияние на общественное мнение, тем не менее, остаются.

Контактное лицо: Краснова Варвара
Компания: McAfee
Добавлен: 16:24, 01.12.2020 Количество просмотров: 284
Страна: Россия


Промышленный туризм – эффективный инструмент привлечения молодых кадров, филиал "Северный" ООО "ЛокоТех-Сервис", 09:13, 23.10.2025, Россия75
В сервисном локомотивном депо Сольвычегодск - Неделя без турникетов


Компания ЛУИС+ провела вебинар об огнестойкой кабельной линии «ЛуисОКЛ», ЛУИС+, 09:58, 22.10.2025, Россия174
Ведущим вебинара выступил инженер ЛУИС+ Сергей Калачев. В течение двухчасовой программы участники подробно разобрали, как строится огнестойкая кабельная линия ЛуисОКЛ, и получили практические рекомендации по выбору решений для гражданских и промышленных объектов.


«Телфин» и «Центр Возврата страховых услуг» повышают доверие клиентов с помощью технологии маркировки звонков, Телфин, 09:53, 22.10.2025, Россия177
Провайдер коммуникационных сервисов «Телфин» и «Центр Возврата страховых услуг», лидер на рынке юридических услуг по защите прав потребителей в финансовой сфере, объявляют об успешном внедрении технологии маркировки звонков, которая позволила решить проблему с низким уровнем доверия при дистанционной работе и значительно повысить эффективность коммуникаций.


Бастион усиливает направление по работе с государственными структурами и госкомпаниями, Бастион, 09:49, 22.10.2025, Россия164
Компания по информационной безопасности «Бастион» объявила об открытии направления по работе с государственными структурами и госкомпаниями (B2G).


IVA Technologies и «АЛМИ Партнер» подтвердили совместимость своих решений, Алми, 18:10, 21.10.2025, Россия166
Алми


Инновационный взгляд на проблему алопеции представил бренд СЕЛЕНЦИН® на школе АКАДЕМИИ InteDeCo-2025, ФЬЮЧА, 18:05, 21.10.2025, Россия153
1 октября 2025 года д.м.н., профессор, руководитель отдела аспирантуры и ординатуры, профессор кафедры дерматовенерологии и косметологии ЦГМА УДП РФ; главный научный сотрудник МНОЦ МГУ им. М. В. Ломоносова, Львов Андрей Николаевич и бренд СЕЛЕНЦИН® на школе АКАДЕМИИ InteDeCo-2025 «ПРАКТИКУМ-ДЭЙ» представили доклад о современных подходах к лечению реактивной и андрогенетической алопеции.


Диалоговая платформа DialogOS, обрабатывающая 5,5 млн чатов ежемесячно, представляет масштабное обновление, Наносемантика, 18:05, 21.10.2025, Россия146
«Наносемантика», ведущий российский разработчик решений на основе нейросетей, значительно расширила функционал платформы DialogOS: среди последних обновлений сервис для точной оценки ответов виртуальных ассистентов. Инструмент разметки отдельных реплик (шагов) и всего чата (сессии) позволит пользователю платформы точечно проанализировать диалог и сделать его более эффективным.


«КВАЗАР» в два раза ускорил работу технической поддержки с помощью 1С:ITILIUM, Деснол Софт, 18:04, 21.10.2025, Россия138
Совместный проект с Деснолом, разработчиком и интегратором ITSM/ESM-решения 1С:ITILIUM, позволил в три раза сократить время обработки обращений, на 50% снизить среднее время закрытия заявок и повысить уровень удовлетворенности клиентов до 4,99 баллов из 5.


«1С ПРО Консалтинг» провел интерактивную встречу на Всероссийском фестивале RuCode, 1С ПРО Консалтинг, 18:03, 21.10.2025, Россия141
«1С ПРО Консалтинг» выступил в финале Всероссийского фестиваля RuCode. Эксперты компании рассказали студентам и школьникам о специфике ведения ИТ-проектов, интересных кейсах применения ИИ, а также о карьерных перспективах в экосистеме «1С».


DCLogic и РОСА создадут совместные решения для построения управляемой и защищенной ИТ-инфраструктуры, DCLogic, 18:02, 21.10.2025, Россия162
Системный интегратор с вендорским подходом DCLogic и российский разработчик инфраструктурного программного обеспечения и операционных систем РОСА заключили договор о стратегическом партнерстве.


Интеграционная платформа Entaxy ION теперь доступна клиентам Navicon, Navicon, 18:00, 21.10.2025, Россия143
Системный интегратор и разработчик Navicon заключил стратегическое партнерство с «Емдев», российским разработчиком программных продуктов для корпоративных клиентов.


ATLAS и «Береста» обеспечили технологическую совместимость решений для отказоустойчивого хранения и резервного копирования данных, ATLAS, 18:00, 21.10.2025, Россия151
Совместное использование решений позволит заказчикам повысить отказоустойчивость инфраструктуры, эффективность процессов резервного копирования и восстановления данных, поддерживая стабильную производительность на отечественных программных и аппаратных платформах.


Индид обеспечила безопасный доступ к корпоративным паролям для Страхового брокера Сбербанка, Индид, 18:00, 21.10.2025, Россия173
Компания «Индид», российский разработчик решений в области защиты айдентити, помогла Страховому брокеру Сбербанка снизить риски несанкционированного доступа к ИТ-ресурсам, внедрив систему BearPass, предназначенную для надежного хранения корпоративных паролей и управления ими.


CTI примет участие в «Видео+Конференция 2025» — крупнейшем отраслевом форуме по цифровым коммуникациям, CTI, 18:00, 21.10.2025, Россия142
Мероприятие пройдёт 23 октября в Palmira Art Hotel (Москва) и соберёт ведущих экспертов, разработчиков, ИТ-руководителей и пользователей систем видеоконференцсвязи.


Новый модуль на платформе RITM³ расширит возможности создания цифровых двойников для российских городов и регионов, Simetra, 17:59, 21.10.2025, Россия145
Группа компаний SIMETRA разработала новый модуль «ТСОДД — Редактор ПОДД» (технические средства организации дорожного движения – проекты организации дорожного движения) для платформы транспортного планирования RITM³.


  © 2003-2025 inthepress.ru