Yapay zekâ tarafından üretilen “TikDoc’lar” gerçek sağlık uzmanları gibi davranarak yanıltıcı tıbbi tavsiyelerde bulunuyor ve şüpheli tedaviler öneriyor. Siber güvenlik şirketi Eset, yaptığı araştırma ve incelemelerle tehlikenin boyutlarını ortaya koyarken kullanıcıların dikkat etmesi gerekenler hakkında da bilgilendirmede bulundu.
Bir zamanlar araştırma laboratuvarlarıyla sınırlı olan üretken yapay zekâ artık herkesin kullanımına açık; buna kötü niyetli olanlar da dahil. Bu kişiler yapay zekâ araçlarını yaratıcılığı teşvik etmek için değil, aldatmacayı körüklemek için kullanıyor. Son derece gerçekçi videolar, görüntüler ya da sesler oluşturabilen Deepfake teknolojisi, yalnızca ünlü taklidi ya da kamuoyunu etkileme çabaları için değil, aynı zamanda kimlik hırsızlığı ve her türlü dolandırıcılık için de giderek daha fazla başvurulan bir yöntem hâline geliyor.
Bir TikTok Aldatmacası
TikTok ve Instagram gibi sosyal medya platformlarında, deepfake’lerin erişimi ve zarar verme potansiyelleri özellikle şaşırtıcı boyutlarda olabiliyor. Eset araştırmacıları Latin Amerika’da yakın zamanda yapay zekâ tarafından oluşturulan avatarların jinekolog, diyetisyen ve diğer sağlık uzmanları gibi davranarak takviye ve sağlıklı yaşam ürünlerini tanıttığı bir kampanyayla karşılaştı. Genellikle son derece gösterişli ve ikna edici olan bu videolar, satış konuşmalarını tıbbi tavsiye kılığına sokarak dikkatsiz kişileri şüpheli ve potansiyel olarak tamamen riskli alışverişler yapmaya yönlendiriyor.
Her video benzer bir senaryoyu takip ediyor: Genellikle ekranın bir köşesine sıkışmış konuşan bir avatar, sağlık veya güzellik ipuçları veriyor. Bir otorite havasıyla verilen tavsiyeler izleyicileri satış için belirli ürünlere yönlendiriyor. Bu deepfake’ler, uzman tavsiyesi kisvesine bürünerek satışları artırmak için güveni istismar ediyor ve bu taktik etkili olduğu kadar etik dışı da olabiliyor. Diğer videolar riskleri daha da artırarak onaylanmamış ilaçları ya da ciddi hastalıklar için sahte tedavileri öne sürüyor hatta bazen gerçek, tanınmış doktorları taklit ediyorlar.
TikTok‘ta Yapay Zekâ ile “Kurtarma” Yalanı
Videolar, herkesin kısa görüntüler göndermesine ve bunları gösterişli bir avatara dönüştürmesine olanak tanıyan meşru yapay zekâ araçlarıyla oluşturuluyor. Bu, üretimlerini ölçeklendirmek isteyen influencerlar için bir nimet olsa da aynı teknoloji yanıltıcı iddialar ve aldatma için de kullanılabilir. Bir pazarlama hilesi olarak işe yarayabilecek bir şey hızla yanlış bilgileri yayma mekanizmasına dönüşebilir. ESET araştırmacıları ürünlerini tanıtmak için deepfake doktorlar kullanan 20’den fazla TikTok ve Instagram hesabı tespit etti. Bunlardan biri, 13 yıllık deneyime sahip bir jinekolog gibi davranarak doğrudan uygulamanın avatar kütüphanesine kadar izlendi. Bu tür kötüye kullanımlar, yaygın yapay zekâ araçlarının hüküm ve koşullarını ihlal ederken aynı zamanda bunların ne kadar kolay silah hâline getirilebileceğini de vurguluyor.
TikTok Tehlikelerinden Uzak Durun
Yapay zekâ daha erişilebilir oldukça bu sahtekârlıkları tespit etmek de daha zor hâle geliyor ve teknoloji meraklıları için bile daha büyük bir zorluk oluşturuyor. Bununla birlikte, işte deepfake videoları tespit etmenize yardımcı olabilecek birkaç işaret:
- Sesle senkronize olmayan dudak hareketleri veya sert ve doğal olmayan yüz ifadeleri,
- Bulanık kenarlar veya ani ışık değişimleri gibi görsel aksaklıklar
- Robotik veya aşırı cilalı bir ses
- Ayrıca hesabın kendisini de kontrol edin: Az takipçisi olan veya geçmişi olmayan yeni profiller şüphe uyandırır,
- “Mucize tedaviler”, “garantili̇ sonuçlar” ve “doktorlar bu numaradan nefret ediyor” gibi̇ abartılı iddialara dikkat edin, özellikle de güvenilir kaynaklardan yoksunlarsa,
- İddiaları her zaman güvenilir tıbbi kaynaklarla doğrulayın, şüpheli videoları paylaşmaktan kaçının ve yanıltıcı içerikleri platforma bildirin.
Kaynak : 