Deepfake tuzağına düşen yazılım şirketi 5 milyon TL kaybetti

Yapay zekâ teknolojisi o kadar süratli ilerledi ki, neredeyse her gün yeni bir gelişme yaşanıyor. Artık pek çok alanda yapay zekânın kolaylaştırıcı ve istikamet gösterici özelliklerinden faydalanıyor. Lakin yapay zekâyı hata aracı olarak kullanmak isteyenler de boş durmuyor. Çeşitli prosedürlerle yapay zekâ teknolojileri dolandırıcılık faaliyetlerinde kullanıyor. Yapay zeka üzerinden dolandırılma olayları Türkiye’de de baş göstermeye başladı. Ankara’da faaliyet gösteren, 17 kişilik takımıyla özel yazılım tahlilleri sunan bir KOBİ yapay zeka ile oluşturulmuş bir bot müşteri tarafından dolandırıldı.

ZOOM TOPLANTISI YAPTILAR

Ankara’da faaliyet gösteren KOBİ, Avrupa merkezli üzere görünen “AlverraTech” isimli müşteriyle birinci kere geçen yıl aralık ayında tanıştı. İngiltere merkezli bir teknoloji firmasının ismiyle eşleşen bir domain, ihtimamla hazırlanmış bir web sitesi, hatta şirketin CEO’sunun LinkedIn sayfası dahi vardı. Birinci temas bir e-posta ile başladı. Akabinde zoom toplantıları yapıldı. Karşılarındaki kişi pürüzsüz İngilizcesi ve net kamera imgesiyle ikna ediciydi. Şirkette soyadı ‘Kara’ olan Türk asıllı bir İngiliz vatandaşı olduğunu söyleyen yönetici de Zoom’a katılarak kusursuz Türkçe ile konuştu.

5 MİLYON TL KAYIP

Ankaralı firma, yabancı müşterisinin talebi doğrultusunda özel bir e-ticaret altyapısı geliştirdi. Zoom’da manzaralı görüştüler, şirket tescil dokümanları paylaşıldı, mukaveleler imzalandı, proje teslim edildi. Proje tamamlandığında teslim edilen hizmetin bedeli 5 milyon TL idi. Bu sistem, blockchain dayanaklı stok idaresinden, yapay zekâ ile çalışan müşteri segmentasyonuna kadar birçok özgün modül içeriyordu. Lakin ne ödeme geldi ne de geri dönüş…

ÇİN’DEN SİPARİŞ VERİYORLAR

Bu olay Türkiye’de bir birinci üzere görünse de son devirde emsal şikâyetlerin süratle arttığı belirtiliyor. Bilhassa Çin merkezli ihracat ve ithalat operasyonları üzerinden, düzmece firmalarla yapılan yazışmalarda yapay zeka varlıklarının devreye girdiği pek çok hadise raporlandı. Siber güvenlik uzmanlarına nazaran, bu ataklar artık organize yapılar tarafından yürütülüyor.

Yapay zeka tarafından dolandırılan Ankaralı KOBİ’nin yöneticisi ‘a şunları anlattı:

“O kadar profesyonel ilerlediler ki, mukaveleler imzalandı, demo sunumları yapıldı, kaynak kodlarını teslim ettik. Avukatlarıyla yazıştık, yatırımcı sunumları için özel raporlar istediler. Her şey kusursuzdu. Fakat aslında geçersizmiş. Biz daha sonra elimizdeki zoom kayıtlarını bilişim cürümlerine teslim ettik. Onlar tahlil ettiklerinde bize manzaraların deepfake teknolojisi ile oluşturulduğunu söz ettiler.”

SAVCILIK: GERÇEK FAİL YOK

Olay yargıya taşındığında ortaya çıkan tablo daha da çarpıcıydı. Hukuksal sürecin başlatılamadığını söyleyen firma yetkilisi, “Gerçek bir kişi ve şirket yok, IP adresleri geçersiz ve anonimleştirilmiş. Bot müşterinin imgeleri deepfake teknolojisiyle üretilmiş” dedi. Siber hatalarla ilgilenen bir uzman da “Artık karşımızda kimliksiz lakin tesirli bir hata aktörü var: Yapay zekayla konuşan, karar veren ve kandıran dijital varlıklar” kelamlarıyla ikazda bulundu. Uzmanlara nazaran, artık klasik dolandırıcılık kıssaları tarihe karışıyor. Benzeri kıssalar Türkiye’nin her yerinden gelmeye başladı.

SİSTEM NASIL İŞLİYOR?

Sabah’tan Metin Can’ın haberiene nazaran uzmanlar, evvel yapay zekâ ile oluşturulmuş bir profil yaratılıyor. Bu profile ilişkin toplumsal medya hesapları, web sitesi, şirket bilgileri, e-posta adresleri oluşturuluyor. Görseller yapay zeka üreticileriyle hazırlanıyor, birtakım durumlarda gerçek şahısların yüzleri deepfake olarak kullanılıyor. GPT gibisi lisan modelleri, Türkçe’yi de içerecek biçimde eğitiliyor. Bu sayede düzmece müşteri, hem yazılı hem kelamlı olarak doğallıkla irtibat kurabiliyor. Bu tıp taarruzlarda sırf bir karakter değil, bir “organizasyon” simüle edilebiliyor. CEO, hukuk danışmanı, proje yöneticisi üzere farklı e-postalarla ancak tıpkı sistem üzerinden yönetilebiliyor. Bu yapılar çoklukla IP anonimleştirme sistemleriyle çalışan, fizikî merkezleri tespit edilemeyen çeteler tarafından yönetiliyor.

DEEPFAKE TEKNOLOJİSİ NEDİR?

Yapay zekâ teknolojisi o kadar süratli ilerledi ki, neredeyse her gün yeni bir gelişme yaşanıyor. Artık pek çok alanda yapay zekânın kolaylaştırıcı ve istikamet gösterici özelliklerinden faydalanıyor. Fakat yapay zekâyı cürüm aracı olarak kullanmak isteyenler de boş durmuyor. Çeşitli sistemlerle yapay zekâ teknolojilerini dolandırıcılık faaliyetlerinde kullanıyor. En sık başvurulan metot de “deepfake”. Deepfake, yapay zeka ve derin öğrenme teknikleri kullanılarak gerçeğe çok yakın düzmece imaj ve düzmece ses oluşturan bir teknoloji. Berbat niyetli şahıslar, deepfake teknolojisini uydurma imaj ve ses üreterek dolandırıcılık, dezenformasyon, kara propaganda, prestij saldırısı, ferdî zımnilik ihlali için kullanıyor.

5 UNSURDA ‘BOT MÜŞTERİ’ NASIL ANLAŞILIR?

Aşırı profesyonellik: Hiç kusur yapmayan, her iletisi saat üzere atan müşterilere kuşkuyla bakın. İnsan dokunuşu eksik olabilir.

Tekrarlayan yüz hareketleri: Manzaralı görüşmelerde jestler, mimikler mekanik yahut tekrarlıyorsa deepfake olabilir.

E-Posta uzantısı gerçek görünüp uydurma olabilir: Gerçek firmalara benzetilmiş ancak ufak değişiklik içeren adresleri denetim edin.

Israrla demo ve erişim talebi: Ödeme yapılmadan kodlara erişim isteyen müşteri büyük risktir.

Sözleşme & avukat oyunu: Sözleşmeleri ve “hukuki temsilcileri” kamu sistemlerinden kesinlikle sorgulayın.

UZMANLAR NE DİYOR?

GÖZLE AYIRT EDEMEZSİNİZ

Hasan Dertli/Sodec Technologies Genel Müdürü: Yapay zekâ destekli dolandırıcılıkların büyük bir süratle yayılma riski var. Artık yalnızca iki boyutlu bir fotoğraftan bile hiç var olmayan bir kişinin yüzünü üretip konuşturmak mümkün. Dolandırıcılar, zoom üzere platformlarda, bu geçersiz manzaraları Open Broadcaster Software üzere sistemler üzerinden kolay kolay yüklüyor. Gözle bakarak bu görüntünün gerçek mi geçersiz mi olduğunu anlamak neredeyse imkânsız. Laboratuvar şartlarında bile tespiti güç. Bu yüzden pasaport ve kimlik doğrulama sistemlerini dijital ortama taşıması kaçınılmaz.

Tolga Dinçer/ DT Cloud CEO: Bu usul dijital ataklarla baş edebilmenin tek yolu, artırılmış kimlik doğrulama sistemleri ya da yapay zekâ varlıklarını gerçek şahıslar üzere tanımlamaktan geçiyor. Burada kıymetli olan bu stil teknoloji üretenleri kimlik altına alabilmek. Gelecekte yapay zekâ varlıkları da kimlik sahibi olacak. Tıpkı bir vatandaş üzere T.C. kimlik numarası ya da milletlerarası bir tanımlayıcıya sahip olacaklar. Bu sayede türel sistemin içine girecek, sorumluluk üstlenecekler.

patronlardunyasi.com