Nepenthes: Yapay Zekâ Modellerine Karşı Yenilikçi Bir Proje
Bağımsız bir geliştirici, yapay zekâ modellerinin eğitim süreçlerini zorlaştırmayı hedefleyen öncü bir projeye imza attı. Bu projenin adı Nepenthes. İnternet sitelerine entegre edildiğinde, yapay zekâ modellerini sonsuz bir döngüye sokma potansiyeline sahip.
Teklif Formu
Yapay zekâ modellerini geliştirmek için gereken en önemli unsurlardan biri, onlara sonsuz büyüklükte veri sağlamaktır. Şirketler, bu verileri toplamak için genellikle internet sitelerini kullanıyor. İşte Nepenthes, tam olarak bu noktaya odaklanıyor. Örneğin, bir internet siteniz olduğunu varsayalım ve bu siteye Nepenthes’i entegre ettiniz. Eğer OpenAI’ın GPT modeli, bir şekilde bu sitenizin verilerine erişmeye çalışırsa, Nepenthes’in tuzağına düşen model, verilere ulaşma çabası içinde kendini sonsuz bir döngüde bulacak ve gereksiz yere enerji tüketecek.
İki Taraflı Amaç
404media’ya konuşan geliştirici, Nepenthes algoritmasının teknik olarak kötü niyetli bir yapı olduğunu kabul ediyor. Ancak algoritmanın temel amacı, yapay zekâ şirketlerinin hiçbir etik ya da kural gözetmeden model eğitmesini engellemek. Bu bağlamda, Nepenthes aslında o kadar da kötü niyetli sayılmaz.
Daha fazla bilgi almak isterseniz, buradaki bağlantıya giderek Nepenthes için hazırlanan bir demoyu görüntüleyebilirsiniz. Bu demo, sistemin ne kadar basit fakat etkili çalıştığını gözler önüne seriyor. Nepenthes, oldukça yavaş bir hızda çalışarak, URL’lerden yeni URL’ler üretirken, bu süreçteki her adımda kendine benzer URL’ler oluşturuyor. Eğer bir yapay zekâ modeli bu internet sitesini eğitim için kullanmaya karar verirse, sonsuza kadar üretilen URL’ler arasında kaybolup gidecek.