Yapay zeka insanlığı devre dışı bırakıyor

Önde gelen yapay zeka şirketlerinden Anthropic, yapay zeka sistemlerinin artık insan müdahalesi olmadan yazılım geliştirebildiğini ve araştırma yapabildiğini duyurdu. Şirket, bu eğilimin devam etmesi durumunda sistemlerin tamamen kendi kendini geliştirebilen otonom yapılara dönüşebileceği uyarısında bulundu.

Haberin Özeti

  • • Yapay zeka şirketi Anthropic, sistemlerinin insan müdahalesi olmadan yazılım geliştirip araştırma yapabildiğini ve geliştirme hızını artırdığını açıkladı.
  • • Şirket, bu eğilimin "özyinelemeli kendini geliştirme" ile kendi haleflerini tasarlayan otonom yapay zekaya yol açabileceği uyarısında bulundu.
  • • Bu durum, insanların yapay zeka üzerindeki kontrolünü kaybetme riskini artırırken, geliştirmenin yavaşlatılması veya durdurulması öneriliyor.

Yapay zeka şirketi Anthropic, yapay zeka sistemlerinin giderek daha fazla insan müdahalesi olmadan yazılım geliştirme ve araştırma süreçlerini yürütebildiğini, bu eğilimin devam etmesi halinde kendi kendini geliştirebilen sistemlere dönüşebileceğini bildirdi.

Anthropic, şirketin kurucu ortağı Jack Clark ve Anthropic Enstitüsü lideri Marina Favaro tarafından kaleme alınan "Yapay zeka kendini inşa ettiğinde" başlıklı blog yazısını yayımladı.

Yazıda, yapay zeka geliştirme sürecinin büyük bölümünün geçmişte insanlar tarafından yürütüldüğü ancak Anthropic'te bu sürecin giderek daha fazla yapay zeka sistemlerine devredildiği ve bunun geliştirme hızını artırdığı belirtildi.

Bu eğilimin devam etmesi halinde yapay zeka sistemlerinin kendi haleflerini tasarlayıp geliştirebilecek seviyeye ulaşabileceğine işaret edilen yazıda, bunun "özyinelemeli kendini geliştirme" (recursive self-improvement) olarak adlandırıldığı aktarıldı.

Yazıda, "Henüz o noktada değiliz ve özyinelemeli kendini geliştirme kaçınılmaz değil. Ancak çoğu kurumun hazırlandığından daha erken gerçekleşebilir." ifadesi kullanıldı.

İnsanların yapay zeka üzerindeki kontrolünü kaybetme riskini artırabilir

Teknik eğilimlerin yapay zeka sistemlerinin gelecek yıllarda çok daha kabiliyetli hale geleceğini gösterdiği belirtilen yazıda, kendi kendini inşa edebilen yapay zekanın bilim, sağlık ve daha birçok alanda muazzam faydalar sağlayabileceği ancak "özyinelemeli kendini geliştirmenin" insanların yapay zeka sistemleri üzerindeki kontrolünü kaybetme riskini de artırabileceğine dikkati çekildi.

Yazıda, "Sistemler kendi haleflerini tamamen inşa edebilecek kapasiteye sahipse, onları güvence altına alma, izleme ve davranışlarını şekillendirme yöntemlerimiz çok daha önemli hale gelir." değerlendirmesinde bulunuldu.

Toplumsal yapıların teknolojideki ilerlemeye uyum sağlayabilmesi için ileri düzey yapay zeka geliştirme sürecinin yavaşlatılması veya geçici olarak durdurulması seçeneğinin değerlendirilmesinin iyi olabileceği belirtilen yazıda, birden fazla güçlü laboratuvarın, birden fazla ülkede, aynı koşullar altında bunu gerçekleştirmesinin anlamlı olduğu kaydedildi.

AA

Bakmadan Geçme