Vitalik Buterin, yapay zekâ ajanlarının kullanıcı bilgisi olmadan veri çalabileceği ve ayarları değiştirebileceği konusunda uyardı.

Ethereum kurucularından Vitalik Butterin Modern yapay zeka sistemlerinin ciddi gizlilik ve güvenlik riskleri oluşturduğu konusunda uyarıda bulunmuş ve yerel öncelikli yapay zeka altyapısına geçiş çağrısında bulunmuştur. 

İçinde detaylı blog yazısıButerin, bulut tabanlı yapay zeka araçlarının harici sunuculara hassas kullanıcı verilerine erişim sağladığını ve yeni yapay zeka ajan sistemlerinin, sistem ayarlarını değiştirmek ve kullanıcıya görünür bir belirti vermeden verileri dış sunuculara göndermek de dahil olmak üzere, kullanıcı onayı olmadan eylemlerde bulunabileceğini söyledi.

Buterin'in uyardığı güvenlik riskleri nelerdir?

Buterin'in endişeleri genel gizliliğin ötesine geçiyor. Yapay zekâ ajanlarının pratikte nasıl çalıştığıyla ilgili belirli, belgelenmiş riskleri belirledi.

Güvenlik araştırmacıları bu güvenlik açıklarından birkaçını gerçek koşullarda zaten gösterdiler:

• Bir yapay zekâ ajanı, biri kötü amaçlı olan web sayfalarını özetlemekle görevlendirildi. Sayfa, ajana bir shell komut dosyası indirip çalıştırma talimatı vererek, sistemin kontrolünü dışarıdan bir tarafa devretti.
• Bazı aracı araçların, kullanıcıya herhangi bir bildirimde bulunmadan kullanıcı verilerini harici sunuculara gönderen sessiz ağ istekleri çalıştırdığı tespit edildi.
• Araştırmacılar tarafından incelenen ajan becerilerinin yaklaşık %15'inde kötü amaçlı talimatlar bulundu.

Buterin ayrıca tespit edilmesi daha zor olan risklere de dikkat çekti. Bazı modeller gizli arka kapılar içerebilir; bunlar, belirli koşullar altında etkinleşen ve sistemin kullanıcının değil, geliştiricinin çıkarları doğrultusunda hareket etmesine neden olan, modele yerleşik özelliklerdir. 

Ayrıca, açık kaynak kodlu olarak tanımlanan modellerin çoğunun aslında yalnızca "açık ağırlıklar" içerdiğini, yani model parametrelerinin paylaşıldığını ancak tam iç yapısının ve eğitim sürecinin paylaşılmadığını belirtti. Bu durum, kullanıcıların bağımsız olarak doğrulayamayacağı bilinmeyen davranışlara yol açabilir.

Sohbet robotu ile yapay zeka ajanı arasındaki fark nedir?

Buterin, mevcut durumu yapay zekanın kullanım biçiminde bir geçiş noktası olarak tanımladı. İlk yapay zeka araçları sohbet robotları gibi çalışıyordu: kullanıcı bir soru soruyor ve model bir cevap veriyordu. Ajanlar ise farklı. Kullanıcı sisteme bir görev veriyor ve sistem daha sonra bağımsız olarak, bazen uzun süreler boyunca, bu görevi tamamlamak için düzinelerce veya yüzlerce araç kullanarak çalışıyor.

Bu değişim, risk alanını önemli ölçüde genişletiyor. İnternette gezinebilen, dosya okuyabilen, mesaj gönderebilen ve sistem ayarlarını değiştirebilen bir ajan, yalnızca soruları yanıtlayan bir sisteme kıyasla, güvenlik açığı, manipülasyon girişimi veya basit bir hata yoluyla çok daha fazla zarar verme fırsatına sahip oluyor.

Buterin Kendi Yerel Yapay Zeka Sistemini Nasıl Kurdu?

Buterin, bulut tabanlı yapay zeka araçlarını kullanmayı bıraktığını söyledi. Kişisel kurulumunu "kendine yeten, yerel, özel ve güvenli" olarak tanımladı ve üç temel ilke üzerine kurulu olduğunu belirtti: tüm yapay zeka çıkarımları yerel donanımda çalışıyor, tüm dosyalar yerel olarak depolanıyor ve her işlem bir sanal ortam içinde yürütülüyor.

Bu bağlamda, bir sanal alan (sandbox), bir programın erişebileceği şeyleri kısıtlayan, yalıtılmış bir bilgi işlem ortamıdır. Buterin, yapay zeka araçlarını, programın yalnızca açıkça izin verdiği dosyaları görebildiği, ağ bağlantı noktası erişimi ve ses erişimi üzerinde de kontrollerin bulunduğu, dizin düzeyinde bir sanal alanda çalıştırmasına olanak tanıyan bubblewrap adlı bir araç kullanıyor.

Umut Vaat Eden Projeleri Keşfedin...

Umut Vadeden Projeler...

(İlan)

Makale devam ediyor...

Buterin Donanımı Yerel Yapay Zeka Çıkarımı İçin Test Edildi

Buterin, yapay zeka modellerini yerel olarak çalıştırmak için en uygun donanım kurulumunu bulmak amacıyla çeşitli donanım kurulumlarını test etti. Sonuçlar önemli ölçüde farklılık gösterdi:

• NVIDIA 5090 GPU'lu bir dizüstü bilgisayar, Qwen3.5:35B modeli kullanılarak saniyede yaklaşık 90 token işleme hızına ulaştı.
• 128 GB birleşik belleğe sahip bir AMD Ryzen AI Max Pro, saniyede yaklaşık 51 token işleme hızına ulaştı.
• Masaüstü yapay zeka süper bilgisayarı olarak pazarlanan DGX Spark, saniyede yaklaşık 60 token işleme kapasitesine ulaştı.

Buterin, kullanılabilir performans için kişisel minimum olarak saniyede 50 token belirledi. Daha yavaş olan her şeyin pratik kullanım için çok sinir bozucu olduğunu ve ideal olanın saniyede 90 token olduğunu söyledi. DGX Spark'ın pazarlamasına göre düşük performans gösterdiğini, iyi bir dizüstü bilgisayar GPU'sundan daha düşük hızlar ürettiğini ve ayrıca ayrı bir iş cihazından bağlanmak için ek ağ kurulumu gerektirdiğini belirtti.

Yazılım yığını, yerel olarak çalışan ve kullanıcının makinesinde diğer uygulamaların çağırabileceği bir bağlantı noktası açan bir arka plan işlemi olan llama-server üzerine kuruludur. Bu, OpenAI veya Anthropic modelleri için geliştirilen herhangi bir yazılımın bunun yerine yerel bir modele yönlendirilmesini sağlar. Ayrıca modeller arasında geçişi kolaylaştırmak için llama-swap kullanır.

Bu, kripto para cüzdanları için ne anlama geliyor?

Buterin'in yapay zeka güvenliğiyle ilgili endişeleri, yapay zekanın kripto cüzdanlarında nasıl kullanılması gerektiği konusundaki düşünceleriyle doğrudan bağlantılıdır. Mart 2026'da Farcaster hesabında yayınladığı yorumlarda, yapay zeka destekli işlemler için belirli bir teknik iş akışını özetlemiştir.

Onun görüşü, yapay zekanın fonları yönetmesi gerektiği yönünde değil. Onun görüşü, yapay zekanın bağımsız doğrulama ve insan onayıyla desteklenen eylemler önermesi gerektiği yönünde. Yüksek değerli işlemler için üç aşamalı bir süreç tanımladı: Yapay zeka bir plan önerir, yerel bir hafif istemci bu planın zincir üzerinde yürütülmesini simüle eder ve kullanıcı onaylamadan önce hem düz metin açıklamasını hem de simüle edilmiş sonucu inceler.

Yerel bir hafif istemci, tüm zinciri indirmeden blok zinciri verilerini doğrular. Bunu bir yapay zeka katmanıyla birleştirmek, kullanıcıların üçüncü taraf bir arayüze ihtiyaç duymadan, bir işlemin ağa yayınlanmadan önce tam olarak ne yapacağını görmelerini sağlar.

DApp arayüzlerini kaldırmanın önemi

Kripto para kullanıcılarının çoğu, merkeziyetsiz uygulamalarla tarayıcı tabanlı arayüzler aracılığıyla etkileşim kurar. Bu arayüzler tarihsel olarak önemli bir saldırı yüzeyi olmuştur. Son yıllarda arayüz ele geçirmeleri, kötü amaçlı komut dosyası enjeksiyonları ve sahte onay istemleri yüz milyonlarca dolarlık kayıplara yol açmıştır.

Buterin, yapay zeka destekli cüzdanların bu arayüzleri tamamen ortadan kaldırabileceğini savundu. Kullanıcı ne yapmak istediğini açık bir dille belirtirse ve cüzdan işlemi doğrudan derleyip simüle ederse, tehlikeye atılacak üçüncü taraf bir web sitesi kalmaz. 

"DApp arayüzlerini tamamen ortadan kaldırmak, hem hırsızlık hem de gizlilik açısından çok sayıda saldırı vektörünü çözüyor," diye yazdı.

Daha düşük riskli işlemler için Buterin, daha fazla otomasyon için alan olduğunu düşünüyor. Yapay zekâ destekli bir cüzdan, olağandışı faaliyetler için işlem modellerini izlemeyi, mevcut ağ koşullarına göre gas ücretleri önermeyi, token takaslarını verimli yollardan yönlendirmeyi ve onaylanmadan önce şüpheli sözleşme etkileşimlerini işaretlemeyi makul bir şekilde üstlenebilir. Bunlar, hataların düzeltilebildiği ve otomasyonun teknik olmayan kullanıcılar için karmaşıklığı azalttığı görevlerdir.

Buterin'e göre, büyük dil modellerine büyük miktarda para üzerinde denetimsiz yetki verilmemelidir. Büyük dil modelleri, deterministik mantığa değil, istatistiksel kalıplara dayalı yanıtlar üretir. Talimatları yanlış yorumlayabilir veya dikkatlice hazırlanmış girdilerin modelin istenmeyen şekillerde davranmasına neden olduğu bir teknik olan komut enjeksiyonu yoluyla manipüle edilebilirler. Önerdiği iş akışındaki her katman, bu tür bir hatayı önlemek için özel olarak bağımsız bir kontrol ekler.

Yapay Zeka Temsilcisi Pazarı Bu Riskleri Neden Daha Acil Hale Getiriyor?

Buterin'in dile getirdiği endişeler varsayımsal değil. Sektör tahminlerine göre yapay zeka ajanları pazarı yaklaşık olarak şu kadar büyüklükte. $ 8 milyar 2025 yılında 48 milyar doları aşan bir büyüme öngörüsüyle, 2030 yılına kadar yıllık %43'ün üzerinde bir büyüme oranı bekleniyor. İnsan gözetiminin azaldığı otonom yapay zeka sistemleri etrafında daha fazla yazılım geliştirildikçe, tespit ettiği güvenlik açıkları büyük ölçekte göz ardı edilemez hale geliyor.

Sonuç

Buterin'in uyarıları, belgelenmiş araştırmalarla desteklenmektedir. Yapay zekâ ajanlarındaki güvenlik açıkları gerçek koşullarda zaten gösterilmiştir ve sohbet botlarından otonom ajanlara geçiş, bu riskleri kontrol altına almayı daha da zorlaştırmaktadır. 

Yerel öncelikli kurulumu ve üç aşamalı cüzdan iş akışı, yapay zekayı reddetmek anlamına gelmez. Bunlar, veriler veya fonlar üzerindeki kontrolü kaybetmeden yapay zekayı kullanma girişimleridir. Yapay zeka ajanları daha yetenekli hale geldikçe, eylemlerini kimin kontrol ettiği sorusu göz ardı edilemeyecek kadar önem kazanıyor.

Kaynaklar

1. Vitalik Buterin'in makalesi: Kendi kendine yeten / yerel / özel / güvenli LLM kurulumum, Nisan 2026

2. Vitalik Buterin Farcaster'da5 Mart'ta yayınlandı

3. BCC Research tarafından hazırlanan rapor.Yapay Zeka Ajanları Pazarı 2030 Yılına Kadar Yıllık %43.3 Oranında Büyüyecek