Дълбоките фалшификати (deepfakes) отдавна предизвикват безпокойство в социалните мрежи, при избори и в публичния сектор. Сега обаче, с напредъка на технологиите за изкуствен интелект, които създават все по-реалистични гласове и снимки, недоброжелателите насочват дълбоките фалшификати към корпоративния сектор.
„Винаги е имало измамни обаждания. Но способността на тези AI модели да имитират действителения говор на човек, който дава инструкции на някой по телефона да направи нещо – тези рискове са нещо съвсем ново“, коментира Бил Касиди, главен информационен директор в New York Life.
Банки и доставчици на финансови услуги са сред първите компании под прицел. „Тази сфера се развива много бързо“, посочва Кайл Капел, лидер по киберсигурност за САЩ в KPMG.
Колко бързо се случва това беше демонстрирано по-рано този месец, когато OpenAI показа технология, която може да пресъздаде човешки глас, базирайки се на едва 15-секунден запис. OpenAI твърди, че няма да пусне технологията публично, докато не разбере повече за потенциалните рискове от неправомерното ѝ използване.
Част от опасенията са, че недоброжелателите могат да използват генериран от AI звук, за да измамят софтуер за гласово удостоверяване, използван от компаниите за финансови услуги, които по този начин проверяват клиентите си и им предоставят достъп до техните сметки. Chase Bank беше измамена наскоро от генериран от AI глас по време на експеримент. Банката заяви, че за извършване на трансакции и други финансови заявки клиентите ще трябва да предоставят допълнителна информация.
Инцидентите с deepfake във финтех сектора са се увеличили със 700% през 2023 г. спрямо предходната година, сочи скорошен доклад на платформата Sumsub.
Компаниите казват, че работят за поставянето на повече защити, за да се подготвят за настъпващата вълна от зложелатели, ползващи генеративен изкуствен интелект. Касиди например твърди, че работи с групата за рисков капитал New York Life за идентифициране на стартиращи фирми и нововъзникващи технологии, предназначени за борба с дълбоките фалшификати. „В много случаи най-добрата защита от тази заплаха от генеративния AI е някаква форма на генеративен AI от другата страна“, казва той.
Недоброжелателите могат също така да използват изкуствен интелект, за да генерират снимки на фалшиви шофьорски книжки, за да създават онлайн акаунти, ето защо Алекс Карилес, главен дигитален директор на Simmons Bank, твърди, че променя някои протоколи за проверка на самоличността. Преди това една от стъпките в създаването на акаунт онлайн в банката е включвал клиентите да качат снимки на шофьорската си книжка. Сега, когато тези снимки могат да бъдат лесно генерирани от AI, банката работи с доставчика на решения за сигурност IDScan.net за подобряване на процеса.
Карилес твърди, че вместо да се качва вече съществуваща снимка, клиентите трябва да снимат шофьорската си снимка през приложението на банката, а след това да си направят селфита. За да се избегне ситуация, в която държат камерата до екран с генерирана от AI визуализация на лицето на някой друг, приложението инструктира потребителите да гледат наляво, надясно, нагоре или надолу, тъй като създаденият deepfake не е задължително да е готов да направи същото.
Балансът може да е труден за постигане, защото трябва да се мисли за добро потребителско изживяване и превръщането на процеса в нещо по-сложно, което зложелателите да не могат да заобиколят, казва Карилес.
Не всички банки обаче бият тревога. Главният информационен директор на KeyBank Ейми Брейди твърди, че банката изостава в технологиите, когато става въпрос за въвеждането на софтуер за гласова идентификация. Сега Брейди смята това за късмет, предвид риска от дълбоки фалшификати.
Брейди твърди, че вече не иска да внедрява софтуер за гласово удостоверяване, докато няма по-добри инструменти за разкриване на имитация. „Понякога да си изостанал се отплаща“, казва тя.
