Teknoloji liderleri, yapay zekayı düzenleme ihtiyacının sesli savunucuları oldular, ancak aynı zamanda yeni kuralların kendi lehlerine işlediğinden emin olmak için yoğun lobi faaliyetleri de yürütüyorlar.
Bu hepsinin aynı şeyi istediği anlamına gelmiyor.
Facebook’un ana şirketi Meta ve IBM, Salı günü AI Alliance adında yeni bir grup kurdu. Bu grup, yapay zeka geliştirmede kendilerini rakipleri Google, Microsoft ve ChatGPT yapımcısı OpenAI ile karşı karşıya getiren “açık bilim” yaklaşımını savunuyor.
Birbirinden farklı olan bu iki taraf (açık ve kapalı), yapay zekanın temeldeki teknolojiyi geniş çapta erişilebilir kılacak şekilde inşa edilip edilmeyeceği konusunda anlaşamıyor. Güvenlik tartışmanın merkezinde yer alıyor ancak yapay zekanın ilerlemelerinden kimin kâr elde edeceği de aynı şekilde önemli.
IBM’in araştırma bölümünü yöneten kıdemli başkan yardımcısı Darío Gil, açık savunucuların “özel ve kapalı olmayan” bir yaklaşımı tercih ettiğini söyledi. “Yani bu, bir fıçıya kilitlenmiş ve kimsenin ne olduğunu bilmediği bir şey değil.”
AÇIK KAYNAKLI YZ NEDİR?
“Açık kaynak” terimi, kodun ücretsiz veya herkesin incelemesi, değiştirmesi ve üzerine geliştirme yapması için geniş çapta erişilebildiği onlarca yıllık bir yazılım oluşturma pratiğinden gelmektedir.
Açık kaynaklı yapay zeka, koddan daha fazlasını içerir ve bilgisayar bilimcileri, teknolojinin hangi bileşenlerinin kamuya açık olduğuna ve kullanımını sınırlayan kısıtlamaların olup olmadığına bağlı olarak onu nasıl tanımlayacakları konusunda farklılık gösterir. Bazıları daha geniş bir felsefeyi tanımlamak için açık bilimi kullanıyor.
IBM ve Meta liderliğindeki ve Dell, Sony, çip üreticileri AMD ve Intel ile çeşitli üniversiteler ve yapay zeka girişimlerini içeren Yapay Zeka İttifakı, “yapay zekanın geleceğinin temel olarak yapay zeka üzerine inşa edileceğini ifade etmek için bir araya geliyor” Gil, açık kaynak ve açık teknolojiler de dahil olmak üzere açık bilimsel fikir alışverişi ve açık inovasyon hakkında, “dedi.
Açık kaynaklı yapay zeka hakkındaki kafa karışıklığının bir kısmı, ChatGPT ve görüntü oluşturucu DALL-E’nin arkasındaki şirket olan OpenAI’nin ismine rağmen kesinlikle kapalı yapay zeka sistemleri oluşturmasıdır.
OpenAI’nin baş bilim adamı ve kurucu ortağı Ilya Sutskever, Nisan ayında Stanford Üniversitesi’nin ev sahipliği yaptığı bir video röportajında ”Açıkçasını belirtmek gerekirse, açık kaynağa karşı kısa vadeli ve ticari teşvikler var” dedi. Ancak daha uzun vadeli bir endişe de var. halka açık hale getirilmesi çok tehlikeli olabilecek “akıl almaz derecede güçlü” yeteneklere sahip bir yapay zeka sisteminin potansiyelini içerdiğini söyledi.
Açık kaynak tehlikelerini savunmak için Sutskever, kendi biyolojik laboratuvarını nasıl kuracağını öğrenmiş bir yapay zeka sistemi öne sürdü.
BU TEHLİKELİ Mİ?
Kaliforniya Üniversitesi Berkeley akademisyeni David Evan Harris, mevcut yapay zeka modellerinin bile risk taşıdığını ve örneğin demokratik seçimleri sekteye uğratacak dezenformasyon kampanyalarını hızlandırmak için kullanılabileceğini söyledi.
Harris, “Açık kaynak, teknolojinin pek çok boyutunda gerçekten harika” ancak yapay zeka farklıdır, dedi.
“‘Oppenheimer’ filmini izleyen herkes şunu biliyor: Büyük bilimsel keşifler yapılırken, tüm bu bilgilerin ayrıntılarının yanlış ellere geçebilecek şekilde ne kadar geniş çapta paylaşılacağı konusunda iki kez düşünmek için birçok neden var. dedi.
Meta’nın sosyal medya uygulamalarını uzun süredir eleştiren Center for Humane Technology, açık kaynaklı veya sızdırılmış yapay zeka modellerinin risklerine dikkat çeken gruplar arasında yer alıyor.
Gruptan Camille Carlton, “Şu anda herhangi bir korkuluk bulunmadığı sürece, bu modelleri halka dağıtmak tamamen sorumsuzluktur” dedi.
KORKU TEYCİLİK Mİ?
Yapay zeka geliştirmede açık kaynak yaklaşımını benimsemenin yararları veya tehlikeleri konusunda giderek artan bir kamuoyu tartışması ortaya çıktı.
Meta’nın baş yapay zeka bilimcisi Yann LeCun, bu sonbaharda OpenAI, Google ve startup Anthropic’teki sosyal medyayı hedef alarak, kendi deyimiyle “büyük kurumsal lobicilik” yaparak kuralları yüksek performanslı yapay zeka modellerine fayda sağlayacak ve konsantre olabilecekleri şekilde yazdı. teknolojinin gelişimi üzerindeki güçleri. Üç şirket, OpenAI’nin ana ortağı Microsoft ile birlikte Frontier Model Forum adı verilen kendi endüstri gruplarını kurdu.
LeCun, eski Twitter hesabı olan X’te, bilim adamlarının yapay zeka “kıyamet günü senaryoları” hakkındaki korku çığırtkanlığının açık kaynak araştırma ve geliştirmeyi yasaklamak isteyenlere cephane sağladığından endişe duyduğunu söyledi.
LeCun, “Yapay zeka sistemlerinin tüm insan bilgisi ve kültürünün deposunu oluşturmaya hazır olduğu bir gelecekte, herkesin katkıda bulunabilmesi için platformların açık kaynaklı ve ücretsiz olarak erişilebilir olmasına ihtiyacımız var” diye yazdı. “Yapay zeka platformlarının insan bilgisinin ve kültürünün tamamını yansıtmasını sağlamanın tek yolu açıklıktır.”
1990’larda açık kaynaklı Linux işletim sisteminin ilk destekçilerinden biri olan IBM için bu anlaşmazlık, yapay zeka patlamasından önce gelen çok daha uzun bir rekabeti besliyor.
IBM’in küresel devlet işleri ekibini yöneten Chris Padilla, “Bu, açık kaynak inovasyonu hakkındaki korkuları artırmaya çalışan klasik bir düzenleyici yakalama yaklaşımı” dedi. “Demek istediğim, bu, onlarca yıldır Microsoft modeliydi, değil mi? Windows veya Office ile rekabet edebilecek açık kaynaklı programlara her zaman karşı çıktılar. Burada da benzer bir yaklaşım benimsiyorlar.”
DEVLETLER NE YAPIYOR?
ABD Başkanı Joe Biden’ın yapay zekâya ilişkin geniş kapsamlı idari emri etrafındaki tartışmada “açık kaynak” tartışmasını gözden kaçırmak kolaydı.
Biden’ın talimatında açık modeller, teknik adıyla “yaygın olarak bulunabilen ağırlıklara sahip çift kullanımlı temel modelleri” olarak tanımlandı ve daha fazla çalışmaya ihtiyaçları olduğu belirtildi. Ağırlıklar, bir yapay zeka modelinin performansını etkileyen sayısal parametrelerdir.
Biden’in emrinde, bu ağırlıklar internette kamuya açık bir şekilde yayınlandığında, “yeniliğin önemli faydaları olabileceği gibi, aynı zamanda model içindeki korumaların kaldırılması gibi önemli güvenlik riskleri de olabilir” deniyordu. Biden, ABD Ticaret Bakanı Gina Raimondo’ya Temmuz ayına kadar süre verdi. uzmanlarla konuşun ve potansiyel fayda ve risklerin nasıl yönetileceğine dair önerilerle geri dönün.
Avrupa Birliği’nin bunu çözmek için daha az zamanı var. Çarşamba günü doruğa ulaşan müzakerelerde, dünya lideri yapay zeka düzenlemesinin geçişini tamamlamak için çalışan yetkililer, aralarında belirli “ücretsiz ve açık kaynaklı yapay zeka bileşenlerini” ticari modelleri etkileyen kurallardan muaf tutabilecek bir hüküm de dahil olmak üzere bir dizi hükmü hâlâ tartışıyor.
Teknoloji liderleri, yapay zekayı düzenleme ihtiyacının sesli savunucuları oldular, ancak aynı zamanda yeni kuralların kendi lehlerine işlediğinden emin olmak için yoğun lobi faaliyetleri de yürütüyorlar. Bu hepsinin aynı şeyi istediği anlamına gelmiyor. Facebook’un ana şirketi Meta ve IBM, Salı günü AI Alliance adında yeni bir grup kurdu. Bu grup, yapay zeka geliştirmede kendilerini rakipleri Google, […]