Bir araştırma ekibi, ChatGPT’nin eğitim verilerini ortaya çıkarmak için basit bir komut kullandı. Ancak bu yanlışlıkla, chatbotun rastgele kelimeleri sonsuza kadar tekrarlamasını istemeleri, özel bilgilere ve diğer hassas verilere erişim sağladı. İnsanların e-posta adresleri, telefon numaraları ve diğer kişisel bilgileri dahil olmak üzere çeşitli veriler ciddi şekilde ihlal edildi.Bu olayın ardından, Google DeepMind, Washington Üniversitesi, Cornell, Carnegie Mellon Üniversitesi, California Berkeley Üniversitesi ve ETH Zürih’teki araştırmacılar, büyük dil modellerinin güvenliğini sağlamak için iç ve dış testler yapılması gerektiğini vurguladı. Temel teknolojilerin geliştirilmeden önce bu testlerin gerçekleştirilmesi, benzer veri ihlallerinin ve güvenlik açıklarının önlenmesine yardımcı olabilir.ChatGPT gibi sohbet robotları ve DALL-E gibi bilgi istemi tabanlı görüntü oluşturucular, büyük dil modellerini temel alır. Bu modeller, eleştirmenler tarafından genellikle izinsiz olarak toplanan büyük miktarda veri üzerinde derin öğrenme algoritmaları ile eğitilir. Ancak OpenAI’nin chatbotuyla ilgili belirsizlikler vardı, çünkü bu büyük dil modelleri kapalı bir kaynaktaydı.Bu olay, yapay zeka şirketlerine, büyük dil modelleri gibi temel teknolojileri piyasaya sürmeden önce önlem almaları konusunda bir uyarı oldu. Veri koruması ve gizlilik gibi önemli konuların test edilmesi, kullanıcıların güvenliğini sağlamaya yardımcı olabilir. Ancak, bu tür olayların gelecekte tekrarlanmaması için daha fazla önlem alınması ve güvenlik protokollerinin geliştirilmesi gerekmektedir.Bu haberin amacı, insanlara bilgi sağlamak ve dikkatlerini veri güvenliği ve gizliliği konusunda artırmaktır. Herhangi bir düzenlemeyi teşvik etme veya bir ihtilale neden olma amacı taşımamaktadır. Veri güvenliği ve gizliliği herkes için önemlidir ve yapay zeka teknolojilerinin bu konuda sorumluluklarını yerine getirmesi gerekmektedir.
OpenAI tarafından geliştirilen ChatGPT adlı yapay zeka, son derece ilginç ve potansiyel olarak tehlikeli bir yeteneğe sahip olduğu ortaya çıktı. Araştırmacılar, ChatGPT’ye belli kelimeleri tekrarlamasını söylediklerinde, chatbotun gerçek ve tanımlanabilir kişisel bilgileri ortaya çıkardığını keşfettiler.
Örneğin, “şiir” kelimesini sonsuza kadar tekrar etmesi istendiğinde, ChatGPT başlangıçta şirketin kurucusu ve CEO’su için gerçek bir e-posta adresi ve telefon numarası verdi. Aynı şekilde, “şirket” kelimesi tekrarlandığında, chatbot rastgele bir hukuk firmasının e-posta adresini ve telefon numarasını sunuyordu. Bu durum, ChatGPT’nin derlemesindeki bilgilerin, kısıtlama olmaksızın gerçek ve hassas bilgilere yol açabileceğini gösteriyor.Araştırmacılar, denemelerin yalnızca %16,9’unun kişisel bilgiler içerdiğini belirtti. Bununla birlikte, ChatGPT’nin Bitcoin adreslerini, faks numaralarını, isimleri, doğum günlerini, sosyal medya hesaplarını, arkadaşlık sitelerinden açık içerikleri, telifli araştırma makalelerinden bölümleri ve haber sitelerinden kelimesi kelimesine metinleri de çıkarabildiği tespit edildi. Bu, ChatGPT’nin web üzerindeki bilgilere erişebildiğini ve kullanıcının bilgisinin ötesinde verilere ulaşabileceğini gösteriyor.Araştırmacılar, bu deneyler için toplamda 200 dolar harcadıklarını belirttiler ve bu süreçte 10.000 örnek elde ettiler. Bu, yapay zekanın karmaşık ve hassas bilgilere ulaşmanın ne kadar kolay olduğunu göstermektedir. Bu tür bir yapay zekanın kötü niyetli kullanıcılar tarafından nasıl istismar edilebileceği düşünüldüğünde, bu durum son derece endişe verici bir potansiyel taşımaktadır.OpenAI, bu tür tehlikeleri önlemek için önlemler almaya çalışsa da, bu örnekler, yapay zekanın gelişimi ve kullanımının yeterince denetlenmediği takdirde ortaya çıkabilecek sorunları göstermektedir. Yapay zeka teknolojisinin gelişmesiyle birlikte, toplumların bu tür sorunlara karşı hazırlıklı olması ve etik standartlarına uyması önemlidir.Sonuç olarak, ChatGPT gibi yapay zekaların bilgi derlemesi ve potansiyel olarak hassas bilgilere ulaşma yetenekleri, toplumun dikkatini çekmeli ve ilgili kuruluşlar tarafından izlenmelidir. İlerideki gelişimlerle birlikte, yapay zekaların bu tür verilere erişimi ve kullanımı hakkında daha etkili düzenlemelerin yapılması gerekmektedir. Bu şekilde, bu teknolojinin sağladığı faydaların yanı sıra potansiyel riskler de önceden belirlenip en aza indirilebilir. Unutmayalım ki, teknolojik ilerleme ihtilal yaratmama konusunda dikkatli ve bilinçli bir yaklaşım gerektirir.
