Но прежде чем я познакомлю вас с моим переводом этой душераздирающей истории, расскажу, как моя умная мама лет уже точно больше 10 назад, потому что её нет на свете почти 9 годиков, легко расхлопала банду, позвонившую ей и предложившую выкупить меня из лап жесточайшей канацкой жандермерии за не помню уже сколько тугриков. Голос чувака которого мошенники убеждали маму не оставлять “в бидэ” был один к одному мой, по её словам. Подготовились они хорошо, видать прошерстили мои профили в соцсетях, упомянули Дорваль и прочее. Одного не рассчитали и не были готовы ответить на вопрос о моём отчестве. А оно у меня идёт от моего отца, соответственно, но и более известно широкой публике по персонажу, который “был чекист, майор разведки и прекрасный семьянин”.
Поэтому, не сумев ответить на вопрос про отчество, мошенники стушевались и завяли. Ничтоже сумняшеся, так сказать, пошли солнцем палимые с бледным видом и макаронной походкой окучивать не столь умных мам.
Ну а теперь, собственно, рассказ об американских ндравах.
===========
Мать из Аризоны дала эмоциональные показания, рассказав об ужасающем испытании, в котором мошенники использовали искусственный интеллект для имитации голоса ее дочери и инсценировали похищение, требуя выкуп. Дженнифер ДеСтефано (фото ниже) выступила перед судебным комитетом Сената на слушаниях во вторник, рассказав о пережитом ею ужасе, когда в апреле ей позвонили мошенники и потребовали 1 миллион долларов за разврат возврат ее 15-летней дочери Брайаной (Брай).
Хотя уловка рассыпалась через несколько минут, после того как ДеСтафано связался с Брай и убедилась, что она находится в безопасности на лыжной прогулке, страх, испытанный матерью, услышавей мольбу девочки о помощи, был абсолютно реальным. Хотя у Брай нет публичных аккаунтов в социальных сетях, ее голос можно услышать в нескольких интервью в школе во время спортивных мероприятий, сказала ее мама, предупредив родителей о том, как легко мошенники могут повторить голос любимого человека. Де Стефано показала, что это был “обычный пятничный день”, когда ей позвонили с неизвестного номера, и она решила ответить, думая, что это может быть звонок от врача.
Мама с дочерью
Я ответила на звонок: “Алло”, а на другом конце рыдала наша дочь Брайана и повторяла “мама”, – рассказала Де Стефано членам сената. Мать сначала подумала, что ее дочь поранилась во время лыжной прогулки, и сохранила спокойствие, спросив девочку, что случилось. Та продолжала: “Мама, я все испортила”, при этом еще больше всхлипывая. Недолго думая, я снова спросила ее: “Хорошо, что случилось?” – продолжала мама. Вдруг мужской голос рявкнул на нее: “Ложись и откинь голову назад”. В этот момент я начала паниковать. Мое беспокойство усилилось, и я потребовала рассказать, что происходит, но ничто не могло подготовить меня к ее ответу.
“Мама, эти плохие люди схватили меня, помоги мне, помоги мне!!!” Она умоляла и просила, пока у нее отбирали телефон.
Мужчина с грубым голосом взял трубку: “Слушай сюда, твоя дочь у меня, расскажешь кому-нибудь, вызовешь полицию, я накачаю ее желудок наркотиками, я сделаю с ней все, что захочу, брошу ее в Мексике, и ты больше никогда ее не увидишь!”.
Все это время Бриана на заднем плане отчаянно умоляла “мама, помоги мне!!!”.
Во время звонка ДеСтефано была на репетиции другой дочери, и когда она отключила звук для мошенников, она закричала о помощи, привлекая других мам, которые начали звонить в 911 и пытаться связаться с ее мужем или Брай.
Тем временем Де Стефано делала все возможное, чтобы затянуть время и заставить “похитителей” говорить до прибытия полиции. Похитители потребовали выкуп в размере 1 миллиона долларов, но когда запаниковавшая Де Стефано сказала им, что это невозможно, они быстро снизили свое требование до 50 тысяч долларов.
В своих показаниях она заявила: “В этот момент знакомая моя, тоже мама, позвонившая в службу 911, вошла и рассказала мне, что служба 911 знакома с мошенничеством с искусственным интеллектом, когда они могут воспроизвести голос вашего близкого человека.
“Я не верила, что это мошенничество. Это был не просто голос Брай, это были ее крики, ее рыдания, которые были присущи только ей. Это невозможно подделать, – возразила я. – Она сказала мне, что ИИ также может воспроизвести интонацию и эмоции. Это дало мне небольшую надежду, но этого все равно было недостаточно”.
Она продолжила: “Я попросила инструкцию по переводу и номер счета для 50 000 долларов, но получила отказ. “О нет, – потребовал мужчина, – это можно отследить, так дело не пойдет. Мы приедем и заберем вас!”.
“Что?” крикнула я. – Они ответили- “Мы вас заберем в белом фургоне, с мешком на голове, чтобы вы не знали, куда мы вас везем. Вам лучше иметь все 50 000 долларов наличными, иначе и вы, и ваша дочь умрете! Если вы не согласитесь, вы никогда больше не увидите свою дочь!” – кричал он”.
Несмотря на обуявший её ужас, ДеСтефано сохраняла спокойствие и продолжала рассказывать подробности своего похищения, чтобы потянуть время.
В этот момент к ней подошла другая мама и подтвердила, что после того, как она дозвонилась до нее по телефону, ее дочь в полной безопасности и находится с отцом на лыжной прогулке.
“У меня голова шла кругом. Я не помню, сколько раз мне требовались заверения, но когда я наконец поняла, что она в безопасности, я была в ярости”, – свидетельствовала ДеСтефано.
Друзья смогли быстро подтвердить безопасность Бри в течение нескольких минут после звонка мистификаторов. Тем временем, возмущенная мама все еще держала похитителей-мистификаторов на проводе.
“Я атаковала этих людей за такую ужасную попытку мошенничества и вымогательства денег. Зайти так далеко, чтобы инсценировать похищение моей дочери, – это выше моего разумения. Они продолжали угрожать убить Брай. Я пообещала, что остановлю их, что они не только не причинят вреда моей дочери, но и не будут продолжать вредить другим, используя свою схему. В ярости ДеСтефано сказала, что когда она попыталась подать заявление в полицию, от этого дела отмахнулись как от “звонка с розыгрышем”.
Она призвала Конгресс принять меры, чтобы предотвратить преступные злоупотребления новыми технологиями искусственного интеллекта.
“В то время как наш мир развивается с молниеносной скоростью, человеческий элемент привычки, который закладывает основу нашей социальной структуры того, что “известно” и что является “правдой”, опрокидывается с помощью искусственного интеллекта. Что-то делается во благо, а что-то во зло”, – сказала она.- Если его оставить без контроля, без охраны и без последствий, он перепишет наше понимание и восприятие того, что является правдой, а что нет. Он подорвет наше чувство “знакомого”, так как разрушает нашу уверенность в том, что реально, а что нет”.
Де Стефано выступает на слушаниях в конгрессе
Сенаторы и свидетели во вторник на слушаниях под названием “Искусственный интеллект и права человека”.
Инструменты клонирования голоса ИИ широко доступны в Интернете, и опыт ДеСтефано является частью тревожной волны подобных мистификаций, прокатившихся по всей стране.
Клонирование голоса ИИ, которое сейчас практически неотличимо от человеческой речи, позволяет субъектам угроз, таким как мошенники, более эффективно вытягивать информацию и средства из жертв, – сказал AFP Васим Халед, исполнительный директор Blackbird.AI. Простой поиск в Интернете дает широкий спектр приложений, многие из которых доступны бесплатно, для создания голосов ИИ с небольшим образцом – иногда всего несколько секунд – реального голоса человека, который может быть легко украден из контента, размещенного в Интернете.
С помощью небольшого аудиообразца клон голоса ИИ можно использовать для оставления голосовых сообщений и голосовых текстов. Его можно использовать даже в качестве живого голосового помощника при телефонных звонках”, – говорит Халед.
Мошенники могут использовать различные акценты, пол или даже подражать речи близких людей. [Технология] позволяет создавать убедительные глубокие подделки”. В ходе глобального опроса 7000 человек из девяти стран, включая США, каждый четвертый человек заявил, что сталкивался с мошенничеством, связанным с клонированием голоса ИИ, или знает кого-то, кто сталкивался с таким мошенничеством. Семьдесят процентов респондентов заявили, что не уверены в том, что смогут “отличить клонированный голос от настоящего”, – говорится в исследовании, опубликованном в прошлом месяце американской компанией McAfee Labs.
Американские чиновники предупредили о росте числа случаев так называемого “мошенничества с бабушками и дедушками”, когда мошенник выдает себя за внука, которому срочно нужны деньги в трудной ситуации.
Вам звонят. На линии звучит панический голос. Это ваш внук. Он говорит, что у него большие проблемы – он разбил машину и попал в тюрьму. Но вы можете помочь, отправив деньги”, – говорится в предупреждении Федеральной торговой комиссии США, опубликованном в марте.
‘Это звучит совсем как он. Как это может быть мошенничеством? Клонирование голоса, вот как”.
В комментариях под предупреждением ФТК приводились многочисленные свидетельства пожилых людей, которые были обмануты таким образом.
