Yapay zeka sütten daha az denetleniyor: Microsoft başkanından küresel kural çağrısı

Smith, bir sistemin kontrolden çıkmış bir yapay zeka ajanı tarafından ihlal edilmesi durumunda mağdura haber verme yasal zorunluluğu ve bir yapay zeka ürününün piyasaya sürülmeden önce dış değerlendiriciler tarafından onaylanması da dahil olmak üzere küresel güvenlik kurallarının yürürlüğe girmesi gerektiğini belirtti.

Smith’in bu yorumları, ABD firmalarının Çinli rakiplerine karşı geride kalmaması için sektörün kendi kendini denetlemesi gerektiğini savunan ABD Başkanı Donald Trump ile ters düşmesine neden oldu.

Ancak Smith, şu anda çamaşır makinelerinin yapay zekadan daha fazla güvenlik kuralına tabi olduğunu ve markette görülen her kutu sütün güvenlik kurallarına ve denetime tabi tutulduğunu söyledi.

Sektördeki uzmanların bu teknolojinin insanlık için bir tehdit olduğuna inandıklarını söylemesinin ardından, yapay zekayı kontrol altına alacak yasa ve kurallara yönelik talepler arttı.

Anthropic, OpenAI ve Google DeepMind gibi ABD merkezli devlerin yöneticileri yapay zeka gelişiminin yavaşlatılması fikrini desteklerken, ABD Başkanı Donald Trump bu duruma karşı çıktı.

Acil önlem çağrısı

Bir televizyon programına konuşan Smith, yapay zekayı acilen denetlenmesi gereken hem bir araç hem de bir silah olarak nitelendirdi ve sürece hemen başlanması gerektiğini ifade etti.

Firmaların, yapay zekanın bir şekilde kontrolden çıkması durumunda onu duraklatmak veya yavaşlatmak için acil durum frenlerine ihtiyaç duyduğunu söyledi.

Ayrıca firmaların olay raporları yazması ve teknolojinin kontrolden çıkması halinde mağdurları bilgilendirmesi için yasal bir zorunluluk olması gerektiğini savundu. Yeni yapay zeka teknolojilerini bağımsız hükümet değerlendiricilerinin incelemesi gerektiğini de öne sürdü.

Smith, bunu diğer ürünler için nasıl yapacaklarını bildiklerini, bu bilginin üzerine inşa etmeleri ve yapay zekaya nasıl uygulayacaklarını düşünmeleri gerektiğini kaydetti.

Küresel kurallar için İngiltere örneği

Smith, eski Başbakan Rishi Sunak döneminde kurulan Yapay Zeka Güvenlik Enstitüsü sayesinde İngiltere’nin yapay zeka için bu küresel kuralları ileriye taşıyacak en iyi konumda olduğunu belirtti. Teknoloji sektöründeki çoğu insanın, bu teknik kapasiteye sahip lider ülkenin İngiltere olduğunu kabul ettiğini vurguladı.

Smith’in görüşleri, ABD’nin yapay zeka konusunda tam gaz ilerlemesi gerektiğine inanan ABD Başkanı Donald Trump’ın görüşlerinden oldukça farklı. ABD Başkanı Donald Trump, yapay zekayı kim kazanırsa, onun kazanacağını defalarca dile getirdi.

Ancak Smith, ABD hükümetinin İngiltere öncülüğündeki yapay zeka düzenlemelerine ABD Başkanı Donald Trump’ın yorumlarının gösterdiği kadar karşı çıkacağına inanmıyor.

ABD’nin İngiltere’nin standartlar belirlemesini Avrupa Birliği’nden daha fazla kabul edeceğini öne süren Smith, Washington’da insanların İngiltere’ye ve Londra’ya Brüksel’e baktıkları gibi bakmadıklarını, bunun bir güç olduğunu söyledi.

Zamanı geldi

İnsan kontrolünden çıkmış yapay zeka ajanlarına ve dünyanın siber güvenliğini riske atan güçlü modellere dikkat çeken Smith, zamanın geldiğini belirtti.

Sakin ama kararlı bir şekilde konuşarak insanları bir araya getirmeye başlamaları gerektiğini söyleyen Smith, hem bir şirket olarak kendi rollerinin hem de bir ülke olarak İngiltere’nin rolünün bu olmasını umduğunu dile getirdi.

Şirketlerin kendi kendini denetlemesi yeterli değil

Geçtiğimiz ayın sonunda ABD Başkanı Donald Trump, ABD teknoloji devleri OpenAI, Anthropic, Nvidia, SpaceX, Meta ve Google’ın liderlerini Beyaz Saray’da ağırladı ve yöneticiler ahlaki olarak bağlayıcı bir belge imzaladı. Şirketler, yapay zeka sistemlerinin amaçlandığı gibi çalışıp çalışmadığını değerlendirmek ve teknik sistemleri hacklememelerini veya bu sistemlere istenmeyen şekillerde erişmemelerini sağlamak için bağımsız denetçilerle çalışma konusunda anlaştı.

Smith, bu açıklamayı takdir ettiğini ve Microsoft’un bunu imzalamaktan mutluluk duyduğunu belirtti.

Bunun iyi ve gerekli bir adım olduğunu ancak artık yeterli olduğunu düşünmediğini ifade eden Smith, kendi kendini düzenleyen herhangi bir rejimin zorluğunun, iyi şirketlerin istenileni yapması olduğunu söyledi.

Smith, asıl endişe duyulması gerekenlerin sorumluluk bilinci taşımayan şirketler olduğunu sözlerine ekledi.