Platon'un Mağarası

Argümanlarınızın, öne sürdüğünüz her noktaya mükemmel bir şekilde hazırlanmış yanıtlarla karşılaştığı o hissi bilirsiniz, sanki olası her itiraz önceden tahmin edilmiş ve sizi mantıksız göstermek için hazırlanmış hazır karşı argümanlarla karşılanmış gibi?

Ama modellerinin karmaşık sistemleri gerçekten tahmin edip edemeyeceğini sorgulayın ve aniden o mükemmel hazırlanmış yanıt makinesi bozulur. "Etik"in, ahlaki sorudan bağımsız olarak neden her zaman aynı kurumsal çözümleri gerektirdiğini sorun. "Merkezi olmayan" sistemlerin hepsinin, daha da fazla güç tekelciliği kurmak için kullanılan aynı mekanizmayı kullanarak temizlendiğini belirtin.

Konuşmanın ne kadar çabuk kesildiğine bakın. Bu bir tesadüf değil - zayıf bir noktaya değindiniz. Peki, bundan nasıl faydalanılabilir?

Çoğu kişi Platon'un Mağara alegorisini bilir. Bir mağarada zincirlenmiş, duvardaki gölgelerden başka bir şey görmeyen, gölgeleri gerçeklikle karıştıran mahkûmlar. Biri kaçar, güneşi görür, geri döndüğünde diğerlerine söylemeye çalışır ve alay konusu olur veya öldürülür.

Ama Platon'un mağarası durağandı. Ya artık durağan değilse?

Şunu hayal edin: Hâlâ duvardaki gölgeleri izliyorsunuz, ancak mağara artık tepkilerinizi gerçek zamanlı olarak izliyor. Şüphecilik algıladığında sizi doğrudan cezalandırmıyor; uyum sağlıyor ve sessizce "doğru" yöne itiyor. Gölgeler daha ikna edici hale geliyor. Politikaları sorguluyorsanız, aniden "reform" ve "şeffaflık" hakkında gölgeler görüyorsunuz - aynı politikalar, ancak daha dostça bir markalama.

Mağara doğası gereği sibernetik hale geldi. Hatalarından ve direncinizden ders çıkarıyor ve daha da iyi zincirler inşa ediyor.

Ancak ölümcül kusur şu: Mağara, yalnızca işlemesine izin verilen itirazlara uyum sağlayabilir. Çok yakından incelendiğinde, tüm işleyişin organik kurumsal bir evrimden ziyade karmaşık bir kontrol mekanizması olduğunu ortaya çıkaracak bazı sorular vardır. Ve bu zayıf noktalar, mağaranın belirli konuları tartışılamaz kılmak için neden bu kadar çok çabaladığını ortaya koyar.

Platon'u bile şaşkına çevirecek şey şuydu: Mağaramızda mahkûmlar sadece gölgeleri izlemekle kalmıyor, daha iyi gölgeleri mümkün kılan verileri de yaratıyorlar.

Her tıklama, beğenme, paylaşma, satın alma, arama, hareket, tweet, Facebook yorumu ve biyometrik okuma, sizi yönetmede daha iyi hale gelen sistemler için eğitim verisi haline geliyor. Direnç kalıplarınız, algoritmalara gelecekteki direnci nasıl tahmin edip karşı koyacaklarını öğretiyor. Tercihleriniz, daha çekici zincirlerin geliştirilmesine katkı sağlıyor.

Sosyal ve Duygusal Öğrenmenin dünya çapında okul müfredatlarına yerleşmesinin nedeni budur; çocukların daha iyi düşünmelerine yardımcı olmak için değil, sistemin hissetmelerini istediği şeyi hissetmelerini sağlamak için. "Etik Yapay Zeka" çerçeveleri, yapay zeka gelişimini kısıtlamak için değil, önceden belirlenmiş değerlere göre gelişmesini sağlamak için teknoloji ortaya çıkmadan önce neden oluşturuluyor?

Sadece mağarada hapsedilmiyorsunuz. Mağaranın hapsetme kapasitesini sürekli olarak geliştiriyorsunuz.

"Her nesil eşi benzeri görülmemiş zamanlardan geçtiğini düşünür" diyor sofistike olanlar. "Bu, yeni teknolojiyle sıradan bir kurumsal ele geçirme". Ancak bu, aslında eşi benzeri görülmemiş olanı gözden kaçırıyor: sibernetik döngünün kapanması.

Önceki tiranlıklar, nüfusları izlemek ve kontrol etmek için devasa bürokrasiler gerektiriyordu. Bizimki kendini izliyor ve kontrol ediyor. Önceki propaganda, merkezi mesajlaşma gerektiriyordu. Bizimki, bireysel psikolojik profillere dayalı olarak gerçek zamanlı olarak kişiselleştirilmiş propaganda üretiyor. Önceki uyum, toplumsal baskı yoluyla dayatılıyordu. Bizimki, bilinçli farkındalığın altında işleyen algoritmik davranış değişikliği yoluyla teşvik ediliyor.

En önemlisi: önceki sistemler, sorumlu kişileri değiştirerek değiştirilebilirdi. Bu sistem, Uzay Gemisi Dünya'nın sözde mecazi navigatörleri olan sorumlu kişilerdir. Etik kurallar, ESG ölçümleri, algoritmik karar alma ve uzman fikir birliğiyle - minimum insan denetimiyle - otomatik olarak çalışacak şekilde tasarlanmış, ancak maksimum iddia edilen ahlaki otoriteye sahip bir sistemdir.

Mağara kendi kendini günceller hale geldiğinde, geleneksel kaçış yolları işe yaramaz hale gelir.

İşte bu yüzden tamamen farklı bir strateji düşünmeniz gerekir.

Kaynak: https://escapekey.substack.com/p/platos-cave?triedRedirect=true