İngiliz devletini siber hücumlara ve tehditlere karşı korumak hedefiyle kurulan Devlet İrtibat Merkezi’nin (GCHQ) kesimi olan Birleşik Krallık Ulusal Siber Emniyet Merkezi (NCSC) Yapay zeka konusunda insanları uyardı. Yapay zeka dayanaklı chatbotların Emniyet riskleri, global olarak artan kullanımlarıyla Birlikte telaş yaratıyor. İngiltere Ulusal Siber Emniyet Merkezi, ChatGPT üzere chatbotların potansiyel risklerini vurgulayarak bahse dikkatleri çekmek istiyor. NCSC tarafından yayımlanan bir makalede, Aka lisan modellerinin (LLM) etkileyici olsalar da sihirli bir araç olmadıkları, Yapay genel zeka düzeyine ulaşmamış oldukları ve ciddi kusurlar barındırdıkları belirtiliyor.
İngiliz istihbaratı Yapay zekâ konusunda uyardı
NCSC, ChatGPT ve GPT-4 üzere Yapay zekâ araçları ve lisan modellerinin yanılabileceğini, yanlış bilgiler üretebileceğini, önyargılı olabileceğini ve toksik içerikler oluşturma eğiliminde olabileceğini vurguluyor. hisli kullanıcı sorularının OpenAI üzere sağlayıcılar tarafından görünebileceği tasası ise Kıymetli bir Sorun olarak görülüyor. Örneğin, açığa çıkabilecek sıhhat sıkıntıları üzere hisli hususlar, gelecekteki chatbot sürümlerinin eğitimi için kullanılabilir. Ayrıyeten, bir CEO’nun bir çalışanını nasıl kovacağı üzere hisli bilgilerin sorulabileceği bir senaryo da Laf konusu. Hasebiyle ChatGPT yahut Bing üzere sohbet araçlarında yapılan bütün sorgular temelinde bir data olarak OpenAI’ın sunucularına gidiyor ve hangi bilgilerin verildiğine dikkat edilmesi gerektiği belirtiliyor.
Bu telaşlar nedeniyle Amazon ve JPMorgan üzere şirketler, Özellikle hisli bilgilerin sızabileceği kaygısıyla çalışanlarına ChatGPT kullanmamalarını istiyor. NCSC, ayrıyeten LLM’lerin siber hatalılara ziyanlı yazılımlar Yazı marifeti kazandırabileceğini de aktarıyor. Bu durum, Emniyet araştırmacıları tarafından Ocak ayında keşfedilen ChatGPT’nin, hem “eğitici” bir araç hem de Kötü hedefli yazılım oluşturma platformu olarak kullanıldığı haberleriyle de desteklenmekte. Daha evvelki haberlerimizde yeni GPT-4’ün elle çizilen bir taslaktan çalışır bir web sitesi oluşturduğunu aktarmıştık. Bunun üzere yollar yeterli hedefle da kullanılabilir Üzücü maksatla da. Siber kabahat faaliyetlerini artırabilirler
Sonuç olarak İngiliz istihbarat teşkilatı, Yapay zekâ dayanaklı chatbotların kullanımında, Özellikle hisli bilgilerin açığa çıkmasına neden olabilecek soruları girdi olarak kullanırken dikkat edilmesi gerektiğine işaret ediyor. Ayrıyeten, Yapay zekâ takviyeli botların, siber suç faaliyetlerini daha da geliştirme muhtemelliğine karşı da ihtarlarda bulunuyor. ek olarak data güvenliği konusu da bir öbür tartışmalı mevzu. OpenAI her ne kadar kendisini kâr maksadı gütmeyen bir kurum olarak nitelese de ChatGPT Plus’ı fiyatlı olarak sunuyor. Ayrıyeten Microsoft, OpenAI’ı satın almasa da milyarlarca dolarlık yatırımı yaparak şirketin teknolojilerini kendi hizmetlerinde kullanıyor. Bu nedenle her gün Çehre milyonlarca kişinin kullandığı ChatGPT’den elde edilen dataların bağımsızlığı daha da Kıymetli bir hale geliyor.
Yorum Yok