İSTANBUL (İGFA) –Günümüzde, yetersiz güvenlik tedbirlerinin riskleri, bilgilerin fonksiyonelliklerinin temelini oluşturduğu yapay zekâ ve makine tahsili (AI/ML) sistemlerinde giderek daha besbelli hale gelmektedir.
Yapay zekâ ve makine tahsili modelleri, kontrollü ve kontrolsüz öğrenme yoluyla daima olarak güncellenen temel eğitim bilgi kümeleri üzerine inşa edilir. Makine tahsili yapay zekânın gelişmesinde kıymetli rol oynar. Makine tahsili sayesinde gerçekleşen derin öğrenme, öteki etkenlerle birlikte yapay zekânın yeteneklerini ilerletmesini mümkün kılar. Datalar ne kadar çeşitli ve muteber olursa modelin çıktıları da o kadar yanlışsız ve kullanışlı olacaktır. Bu nedenle, eğitim sırasında bu modellerin büyük ölçüde dataya erişmesi gerekir. Öte yandan, doğrulanmamış yahut düzgün incelenmemiş data kümeleri güvenilmez sonuçların ortaya çıkma mümkünlüğünü artırdığından bilgi yığınlarına güvenmek riskleri de beraberinde getirmektedir.
Üretken yapay zekânın, bilhassa de büyük lisan modellerinin (LLM’ler) ve bunların yapay zekâ asistanları formundaki uzantılarının, modelleri makus niyetli emellerle kurcalayan ataklara karşı bilhassa savunmasız olduğu bilinmektedir.
En sinsi tehditlerden biri, düşmanların modelin davranışını değiştirmeye çalıştığı ve yanlış, önyargılı ve hatta ziyanlı çıktılar üretmesine neden olduğu data (veya data tabanı) zehirlenmesidir. Bu çeşit tahrifatların sonuçları uygulamalar ortasında dalgalanarak itimadı sarsabilir ve hem beşerler hem de kuruluşlar için sistemik riskler doğurabilir.
Yapay zekâ modelleri hem iş hem de tüketici sistemlerine derinlemesine gömüldükçe asistanlar yahut verimlilik artırıcılar olarak hizmet verdikçe bu sistemleri maksat alan akınlar değerli bir telaş kaynağı haline gelirken, ekseriyetle hassas bilgilerle dolu olan kullanıcı komutlarını öteki taraflarla paylaşan tüketici modelleri için riskler daha da artmaktadır.
MAKİNE TAHSİLİ VE YAPAY ZEKÂ GELİŞİMİ NASIL GARANTİ ALTINA ALINIR?
ML/AI modelleri için önleyici stratejiler hem geliştiricilerin hem de kullanıcıların farkındalığını gerektirir. Bunun için bilişim uzmanları bu hususla ilgili temel stratejileri ise şöyle sıraladı:
Sürekli denetimler ve kontroller: Kötü niyetli manipülasyon yahut önyargılı dataların onları tehlikeye atmasını önlemek için AI/ML modellerini besleyen data kümelerinin bütünlüğünü daima olarak denetim etmek ve doğrulamak değerlidir.
Güvenliğe odaklanın: Yapay zekâ geliştiricilerinin kendileri de saldırganların gayesinde olabilir, bu nedenle proaktif tedbire, erken tespit ve sistemik güvenlik denetimleri ile akın yüzeyini en aza indirmeye yönelik tedbire öncelikli bir yaklaşım sağlayabilecek bir güvenlik kurulumuna sahip olmak, inançlı geliştirme için olmazsa olmazdır.
Çekişmeli eğitim: Daha evvel de belirtildiği üzere, modeller çoklukla öğrenmelerini yönlendirmek için profesyoneller tarafından denetlenir. Tıpkı yaklaşım, modellere makûs niyetli ve geçerli data noktaları ortasındaki farkı öğretmek için de kullanılabilir ve sonuçta zehirleme hücumlarının engellenmesine yardımcı olur.
Sıfır itimat ve erişim idaresi: Hem içeriden hem de dışarıdan gelen tehditlere karşı savunmak için bir modelin temel datalarına yetkisiz erişimi izleyebilen bir güvenlik tahlili kullanın. Bu halde kuşkulu davranışlar daha kolay tespit edilebilir ve önlenebilir. Ek olarak, sıfır inanç ile hiç kimseye varsayılan olarak güvenilmez ve erişim müsaadesi verilmeden evvel birden fazla doğrulama yapılması gerekir.