Yapay Zekanın Ürettiği Sentetik Bilgiler Bir Kara Delik Bataklığına Dönüşebilir mi?
Created with the help of Microsoft Bing Image Creator
Yapay Zekaya ilişkin gelişmeleri yakından takip etmeye başladıktan sonra, başlangıçtaki coşkulu heyecanımın sarmaladığı aşırı iyimserlik, kendini giderek endişe yüklü sorulara bırakmaya başladı.
Artık, geri dönülemeyecek yeni bir yola girdiğimizin farkındayım. Karamsar da değilim. Ancak riskleri de mutlaka görmemiz lazım.
Chat sistemleri artık sürekli yeni bilgiler üretiyorlar. Sentezlenmiş bu yeni bilgiler, yapay zekanın artan bilgi açlığını gidermek amacıyla, giderek daha fazla kullanılmaya başlayabilir. Bu gelişim, gerçek bilginin sentezlenmiş, yeniden üretilmiş bilgi okyanusunun içindeki gibi bir su damlası gibi kaybolup gidebilir.
O zaman, gerçeği, sentezinden nasıl ayırt edeceğiz?
Hele bu sentezlenmiş bilgilerin -en azından bir kısmı- bilinçli olarak yanlış ve özellikle bozulmuş bilgilerden oluşturulmuşsa, farkı nereden bileceğiz?
Henüz ayrıntılarına girme fırsatım olmasa da, bir bilgi parçasının gerçek mi, yoksa yapay zeka araçları tarafından sentezlenmiş mi olduğunu ayırt etmeye odaklanmış çalışmalar da var.
.Isaac Asimov‘un 3-robot yasası gibi, şimdi de sentetik bilgiler üreten yapay zeka araçları için yeni yasalar üretmemiz gerekecek.
Örneğin:
- Sentetik bilgiler, hangi kaynaklara dayandığı bilgisini de içermelidir
- Sentetik bilgiler, bilinen doğa yasalarına aykırı olmamalıdır
- Sentetik bilgiler matematik kurallarına uymayan bilgiler içermemelidir
- Gerçek bilgi kaynakları dış etkenlerden ve sanal evrenden etkilenmeyecek şekilde korunmalıdır
- Her bilgi parçası bütünlüğü korunacak şekilde imzalanmalıdır
Yukarıda yazdıklarım, sadece basit karalamalar, küçük bir beyin jimnastiği.
Bu konuda sizler ne düşünüyorsunuz? Karamsarlığa gerek yok mu? Yoksa olası gelişmeleri çok mu hafife alıyoruz?
Ahmet Aksoy
Note: Bu konu ilginizi çektiyse, PoisonGPT yaklaşımını da araştırmanızı öneririm. Bu tür çalışmaların başkaları tarafından da yapılmış ve yapılmakta olduğunu düşünüyorum. Bu tür girişimleri önlemek zor. Hatta imkansız. Ama, yine de daha başından bu tür girişimlere karşı önlem alabilmemiz şart!