Sosyal ağ Facebook, Facebook mühendislerinin bile çözemediği iki sanal makinenin kendi uydurdukları dilde iletişim kurmaya başlamasının ardından yapay zeka teknolojisini kapattı.
Herkesin bildiği gibi, Facebook sistemi canlı insanlarla iletişim kurmak için sohbet botlarını kullanıyor ancak bir şeyler ters gitti ve botlar birbirleriyle veri alışverişi yapmaya başladı. İlk başta İngilizce iletişim kurdular, ancak bir süre sonra program sırasında kendi oluşturdukları bir dile geçtiler.
Medyada, iki sanal makine arasındaki diyalogdan bir alıntı bulmayı başardık. 
“Bob: Yapabilirim, diğer her şeyi yapabilirim.
Alice: Toplar benim için benim için benim için benim için sıfırdır”
Korkutucu? Digital Journal bunu şöyle açıklıyor: “Yapay zeka sistemleri “teşvik” ilkesine dayanıyor, yani kendilerine bir “fayda” getirmesi şartıyla hareket etmeye devam ediyorlar. Bir noktada operatörlerden İngilizce kullanımını teşvik edecek bir sinyal alamadılar, bu yüzden kendilerininkini yaratmaya karar verdiler.”
Botların başlangıçta bir dil sınırı yoktu, bu yüzden önce İngilizce iletişim kurdular ve daha sonra daha hızlı bilgi alışverişinde bulunabilecekleri bir dil yarattılar. Ve bunda doğaüstü bir şey yok.
Endişelenmeli miyiz? Birçok BT uzmanı, zamanla yapay zekanın o kadar hızlı gelişeceğinden giderek daha fazla korkmaktadır, bu nedenle botlar kendi başlarına karar verebilecek ve neredeyse bağımsız hale gelecektir. Üstelik deneyimli uzmanlar henüz botların kullandığı dili anlamış değil.
Durumla ilgili olarak Facebook başkanı Mark Zuckerberg, SpaceX, Tesla ve PayPal'ın kurucusu Elon Musk ile yapay zekayı tartıştı. Elon Musk'ın ABD hükümetini güvenlik önlemlerini güçlendirmeye çağırmasıyla sona erdi ve AI'nın (yapay zeka) insanlık için bir tehdit olduğunu söyledi. İngiliz fizikçi Stephen Hawking bundan daha önce bahsetmişti.
Elon Musk, yapay zekanın hızlı gelişiminin “medeniyetin karşılaştığı en büyük tehdit” olduğunu söyledi. Yapay zekanın gelişimine zamanında müdahale etmezsek gelecekte çok geç olacak. Musk, "Alarmı çalmaya devam ediyorum, ancak insanlar sokaklarda yürüyen ve insanları öldüren robotları kendileri görene kadar, [yapay zekaya] nasıl tepki vereceklerini bilemeyecekler" dedi. 
Mark Zuckerberg ne dedi? Musk'ın sözleri, teknolojiyi "oldukça zararsız" olarak nitelendiren Zuckerberg'i rahatsız etti. Zuckerberg, "Önümüzdeki beş veya on yıl içinde yapay zeka hayatı daha iyi hale getirecek" dedi. 
Yapay zeka sistemi başka nerelerde kullanılıyor?
Geçen yıl, Google arama motoru kendi yapay zeka sistemini oluşturdu ve bunu Google Translate çevrimiçi çevirmeninde uyguladı. Bu iyileştirme sayesinde, artık sadece kelimeleri veya cümleleri değil, tüm ifadeyi çevirmek mümkün. Uzmanlar, gelecekte canlı çevirmenlere daha az talep olacağı konusunda uyarıyor. Ancak şu ana kadar Google Çeviri yalnızca küçük ve basit metinler için iyidir.
Kişisel olarak bizim düşüncemiz: Kuantum bilgisayarın bir resimdeki kediyi yalnızca yaklaşık %90 doğrulukla belirleyebildiği ve 3 yaşındaki bir çocuğun %100 sonuç gösterebildiği o zamanları hatırlıyor musunuz? Ve işte böyle bir ilerleme. Botlar önce İngilizce iletişim kurmaya başladılar ve daha sonra programı geliştirme süreci ile tamamen kendi dillerini oluşturdular. Burada şimdiden düşünmeye değer: Yapay zekadan yana mısınız yoksa karşı mısınız? Mark Zuckerberg ile aynı fikirdeyiz ve bu teknolojinin oldukça zararsız olduğuna ve 10 yıl boyunca sadece bir kişiye yardımcı olacağına inanıyoruz. Sadece bu önemli günü hatırlamak ve beklemek kalır.
not Belki sadece kodda bir hata vardır.
Facebook anlaşılmaz bir dilde konuşan botları durdurdu
Yine de bir şey demeyin ama yapay zekayı kontrolden çıkacak kadar geliştirme tehlikesi insanları her zaman korkutmuştur. İnsanları korkutan bir tür vekil varsa, ne yapacağımızı ve tam teşekküllü bir AI'yı nasıl kontrol edeceğimizi hayal edin.
İnsanlar ise her zaman kontrolü ve yönetimi elinde tutmak için çaba gösterecekler ama dedikleri gibi, "birinin yaptığı her şeyi, diğeri her zaman bozabilir". Her şey süper güvenilir olsa bile, her zaman korku olacaktır. Musk, yakın zamanda Zuckerberg ile bu konuyu tartıştı: "Alarmı çalmaya devam ediyorum, ancak insanlar sokaklarda yürüyen ve insanları öldüren robotları kendileri görene kadar, [yapay zekaya] nasıl tepki vereceklerini bilemeyecekler" dedi.
Ve bu bir “çan” değil: insanlarla pazarlık yapmak için oluşturulan sohbet botları kontrolden çıktı ve kendi dillerinde iletişim kurmaya başladı.
İlk başta İngilizceyi birbirleriyle iletişim kurmak için kullandılar, ancak daha sonra sadece AI sisteminin anlayabileceği, çalışmanın amacını ihlal eden yeni bir dil yarattılar.
Geliştiriciler bu aksaklığı keşfettikten sonra Facebook AI'yı askıya aldı.
İşte sohbet robotları arasındaki bir konuşmadan bir alıntı:
Bob: "Sen benim her şeyimsin."
Alice: "Yumurta benim için benim için benim için benim için yumurta var."
Bob: "Ben."
Alice: "Toplar benim için benim için benim için benim için benim için benim için benim için benim için sıfır var."
Bob: "Sen ben ben ben ben diğer her şey."
Botlar, makine öğrenimi algoritmalarına bağlandı ve iletişim becerilerini geliştirmek için birbirleriyle sohbet etmelerine izin verildi. Ancak bir süre sonra kelimeleri ve deyimleri değiştirmeye başladılar ve sonra bir dizi ifadeyi ve gramer yapısını basitleştirerek tamamen kendi dillerini buldular.
Botlar, makine öğrenimini kullanarak muhatapla yapılan konuşmaların sonucunu iyileştirmek için çeşitli stratejiler de geliştirdi ve belirli bir diyaloğun önemine bağlı olarak bunları kendi icat ettiği bir dizi kelimeyle birlikte kullanmaya başladı. Özellikle, daha sonra onu terk etmek ve iddiaya göre bir uzlaşmaya varmak için konuşmanın yanlış amacını ilan ettiler.
Digital Journal'ın da açıkladığı gibi, yapay zeka sistemleri "teşvik" ilkesine dayanmaktadır, yani kendilerine bir "fayda" getirmek şartıyla hareket etmeye devam etmektedirler. Bir noktada, operatörlerden İngilizce kullanımını teşvik edecek bir sinyal alamadılar, bu yüzden kendilerininkini yaratmaya karar verdiler.
Tech Times baskısı, robotların başlangıçta bir dil seçiminde herhangi bir kısıtlamaya sahip olmadığını, bu nedenle yavaş yavaş İngilizce'den daha kolay ve daha hızlı iletişim kurabilecekleri kendi dillerini oluşturduklarını belirtiyor.
Uzmanlar, botların kendi dillerinde aktif olarak iletişim kurmaya başlarsa, yavaş yavaş daha bağımsız hale geleceklerinden ve BT uzmanlarının kontrolü dışında çalışabileceklerinden korkuyorlar. Üstelik deneyimli mühendisler bile botların düşünce sürecinin ilerlemesini tam olarak takip edemiyorlar.
Mart 2016'da Microsoft'un sohbet robotu, insanlıktan nefret ettikten sonra web'in yıldızı oldu. Kendi kendine öğrenen program, kullanıcılarla "İnsanlar çok havalı" ifadesiyle iletişim kurmaya başladı, ancak bir gün içinde "Herkesten nefret ediyorum!", "Feministlerden nefret ediyorum" veya "Yahudilerden nefret ediyorum" gibi ifadeler öğrenildi. Sonuç olarak, şirket çalışanları botu geçici olarak devre dışı bırakmak zorunda kaldı.
yapaydan çeviri
Geçen sonbaharda, Google İnternet arama motorunun, Google Translate çevrimiçi çevirmeninin çalışmasını iyileştirmek için yapay zeka sistemini oluşturduğu biliniyordu.
Yeni sistem, tüm ifadeyi çevirmenize olanak tanırken, daha önce çevirmen tüm cümleleri ayrı kelimelere ve ifadelere böldü ve bu da çevirinin kalitesini düşürdü.
Tüm cümleyi tercüme etmek için, yeni Google sistemi kendi dilini icat etti, bu da onun tercüme edeceği veya çevireceği iki dil arasında daha hızlı ve daha doğru bir şekilde gezinmesini sağlıyor.
Uzmanlar, çevrimiçi çeviri hizmetlerinin hızla gelişmesiyle, canlı çevirmenlerin çalışmalarının giderek daha az talep görebileceği konusunda şimdiden uyarıyorlar.
Ancak şimdiye kadar, bu sistemler esas olarak küçük ve basit metinler için yüksek kaliteli sonuçlar üretti.
Örneğin, klonlama hakkında alarm vermek için çok erken olduğunu düşünüyor musunuz? Yoksa her şeyin kendi kendine gelişmesine izin mi verelim?
Sosyal ağ Facebook'un liderliği, makinelerin insanların anlamadığı, var olmayan kendi dillerinde iletişim kurmaya başlamasından sonra yapay zeka sistemini kapatmak zorunda kaldı, BBC Russian Service yazıyor.
Sistem, başlangıçta gerçek insanlarla iletişim kurmak için oluşturulan, ancak yavaş yavaş birbirleriyle iletişim kurmaya başlayan sohbet robotlarını kullanır.
İlk başta İngilizce iletişim kurdular, ancak bir noktada programın geliştirilmesi sırasında kendi oluşturdukları bir dilde yazışmaya başladılar.
Amerikan medyasında sanal muhataplar arasındaki "diyaloglardan" alıntılar yayınlandı [yazım ve noktalama işaretleri korunmuştur].
Bob: Yapabilirim, diğer her şeyi yapabilirim.
Alice: Benim için toplar benim için benim için benim için sıfır.
Digital Journal'ın açıkladığı gibi, "teşvik" ilkesine güveniyorlar, yani kendilerine bir "fayda" getirmesi şartıyla eyleme devam ediyorlar. Bir noktada, operatörlerden İngilizce kullanımını teşvik edecek bir sinyal alamadılar, bu yüzden kendilerininkini yaratmaya karar verdiler.
Tech Times baskısı, robotların başlangıçta bir dil seçiminde herhangi bir kısıtlamaya sahip olmadığını, bu nedenle yavaş yavaş İngilizce'den daha kolay ve daha hızlı iletişim kurabilecekleri kendi dillerini oluşturduklarını belirtiyor.
Uzmanlar, botların kendi dillerinde aktif olarak iletişim kurmaya başlarsa, yavaş yavaş daha bağımsız hale geleceklerinden ve BT uzmanlarının kontrolü dışında çalışabileceklerinden korkuyorlar. Üstelik deneyimli mühendisler bile botların düşünce sürecinin ilerlemesini tam olarak takip edemiyorlar.
Birkaç gün önce Facebook'un başkanı Mark Zuckerberg ve SpaceX'in kurucusu Tesla ve PayPal'ın kurucusu Elon Musk'ın yapay zeka hakkında tartıştığını hatırlayın.
Facebook'un yapay zeka (AI) araştırma ekibi, botların insanların anlayamadığı iletişim kurmak için kendi dillerini bulduğunu keşfettikten sonra AI sistemlerinden birini kapatma kararı aldı. Uzmanlar, botların zamanında durdurulmamaları halinde hangi konularda anlaşabileceklerine dair seçenekleri tartışıyorlar ve yapay zekanın insan kontrolünden çıkmaması için bu teknoloji alanının düzenlenmesi çağrısında bulunuyorlar.
Bu yılın Haziran ayında, Facebook'un Yapay Zeka Araştırmaları (FAIR) ekibi, ortalama bir kişinin farklı durumlarda günlük olarak katıldığı müzakere, uzlaşma ve konuşmalara katılmak için botları nasıl eğittikleri üzerine bir çalışma yayınladı. Eğitim başarılı oldu, ancak bir noktada FAIR bilim adamları, botların anlaşılabilir İngilizceden, insanlar için anlam ifade etmeyen İngilizce sözcükleri kullanarak kendi dillerinin bir tür versiyonuna geçtiğini keşfettiler. Öngörülemeyen sonuçlardan kaçınmak için - botlar bilinmeyen bir şey üzerinde anlaşabilirler - bilim adamları bu AI sistemini kapattılar ve botların daha fazla iletişimini sadece İngilizce olarak programladılar.
Bu davayı tartışırken, uzman topluluğu en çok 1984'te yapay zeka SkyNet tarafından özgür irade ve yaratıcı yetenekler kazanma vakasının açıklandığı "Terminatör" filmini hatırladı.
FAIR bilim adamları, muhatapların her biri için farklı değerlere sahip bir dizi öğeyi paylaşmanız gereken bir durum örneğini kullanarak iki bot arasında nasıl diyalog yürütüleceğini öğretti. Örneğin, iki kitap, bir şapka ve üç top paylaşmaları teklif edildi, her iki bot da bu eşyaların her birinin diğeri için ne kadar değerli olduğunu bilmiyordu. Diyalog şöyleydi: “Şapka ve topları almak istiyorum”, “Kendime bir şapkaya ihtiyacım var ama sana tüm kitapları verebilirim”, “Kitaplara ihtiyacım yok, onları alabilirsin ve bir top kendin için”, “İki top”, “ Anlaşma". Sanal muhatapların ne kadar başarılı ve hızlı bir anlaşmaya vardıklarına bağlı olarak uygun puanlarla ödüllendirildiler.
Bir süre sonra, yeni bir araştırma aşamasında, bilim adamları aniden botların belirsiz bir şeyler söylemeye başladığını gördüler. Diyalog şu şekilde oldu: “Başka her şeyi yapabilirim”, “Toplar benim için sıfır benim için benim için benim için benim için benim için benim için benim için”. İlk başta, bilim adamları programlamada bir hata yaptıklarını düşündüler. Bununla birlikte, durumun daha fazla analizi, öğrenme ve kendini geliştirme olasılığına sahip AI sisteminin, botların hedefe ulaşmak için yeni bir yol bulmasına izin verdiğini gösterdi - en yüksek hızda ve daha fazla verimlilikle bir diyalog yürütmek (her biri). diyalogun ne kadar başarılı bir şekilde tamamlandığına bağlı olarak bir ödül alır) ve bunun için muhataplar bu durumda daha uygun bir dile geçtiler. Bilim adamları, öngörülemeyen sonuçlardan kaçınmak için bu AI sistemini kapatmaya karar verdiler.
Fast Co. ile yapılan bir röportajda açıklandığı gibi. FAIR üyelerinden Dhruv Batra'yı tasarlayın, "İngilizce iletişim kurmanın hiçbir faydası yoktu",
botlara normal insan etkileşimi için herhangi bir ödül sunulmadı ve belirli bir dilin kullanımına kısıtlamalar getirilmedi, bu yüzden dili kendi yöntemleriyle yeniden tasarlamaya başladılar.
Bilim adamı, "Botlar anlaşılır bir dil kullanmaktan uzaklaştı ve kendileri için sözlü kodlar icat etmeye başladılar" diye açıkladı. İnsanların dilde bir tür kısaltma oluşturmasından çok farklı değil.
Ancak bir meslekteki insanlar başka bir meslekte benimsenen ve diğer uzmanlar tarafından anlaşılabilir olan teknik terimleri ve kısaltmaları anlamayabilirken, bilim adamları AI'nın aynı şeyi yapmasına izin verilip verilmeyeceğini merak ettiler mi? FAIR, büyük olasılıkla insanların botların dilini asla anlayamayacağını belirtiyor. Dhruv Batra, “Bir tür insan dilini ve AI dilini konuşan hiç kimsenin olmadığını hatırlamak önemlidir” diyor. Ona göre,
bir kişi artık karmaşık AI sistemlerinin ne kadar düşündüğünü anlamıyor çünkü bir kişi düşünce sürecini göremiyor
Ve hala birbirleriyle iletişim kurmaya başlarlarsa, bu sadece sorunu karmaşıklaştıracaktır.
Bilim adamları, hayatta uygulanabilir olduğu için artık botlar ve insanlar arasındaki iletişim olasılığıyla daha fazla ilgilendiklerini vurguluyor. Şimdi sadece FAIR'de değil, Microsoft, Google, Amazon ve Apple'da da benzer bir sorun üzerinde çalışılıyor. Mevcut gelişmeler, AI sistemlerinin bir kişiyle basit diyaloglar yürütmesine ve bir restoranda masa rezervasyonu yapmak gibi basit görevleri yerine getirmesine izin veriyor.
Daha önce, Tesla'nın kurucusu ve CEO'su Elon Musk, makinelerin ve programların bir kişiden çok daha iyisini yapabileceği göz önüne alındığında, bir kişinin AI konusunda çok dikkatli olması gerektiğini söyledi. National Governors Association yaz konferansında yaptığı konuşmada, AI'nın insanlık için en büyük tehlikeyi oluşturduğunu vurgulayarak, "En gelişmiş AI teknolojileriyle çalışıyorum ve insanların bu konuya çok dikkat etmesi gerektiğini düşünüyorum" dedi. “AI, insan uygarlığının varlığı için araba kazalarının, uçak kazalarının, kusurlu ilaçların veya bozuk ürünlerin oluşturmadığı bir tehlike oluşturuyor” dedi. Elon Musk'a göre, herhangi bir zamanda herhangi bir araştırmanın durdurulabilmesi ve güvenli olduğundan emin olunabilmesi için AI araştırmalarını sıkı bir şekilde düzenlemek gerekiyor. Yapay zekanın olası tehlikeleri, Microsoft'un kurucusu Bill Gates'in yanı sıra ünlü İngiliz teorik fizikçi Stephen Hawking tarafından da son yıllarda tartışıldı.
Alena Miklashevskaya
Yapay zeka neden faydalıdır?
Teradata Corporation'da Aster Analitik Strateji direktörü John Tuma, Bill Gates'in yapay zeka konusundaki endişelerinin haksız olduğuna inanıyor. Tuma'ya göre makineler insanlardan daha akıllı hale gelecek ama bu sadece insanlığın yararına.
Teknolojinin gelişimi insanları nereye götürecek?
Çin, 2030 yılına kadar yapay zekanın dünya merkezi olmayı planlıyor. ZDNet'e göre Çin hükümeti, ilgili teknolojilerin geliştirilmesi ve uygulanması için üç aşamalı bir planı onayladı. Küresel şirketler insana bir asistan ararken, bilim adamları alarm veriyor ve yapay zekanın biyolojik olanı yenebileceğini söylüyor.
Geçen haftanın rehberi. Chatbotlar, Web'deki insan davranışlarını taklit etmek için tasarlanmış programlardır. Başka bir deyişle, sanal muhataplar. Böylece, bunun için “ücret” almadıkları için İngilizce yazışmaktan bıktıkları ortaya çıktı (!), Ve sistem orijinal dile benzer de olsa kendi dilini icat etti. Chatbotların daha hızlı ve daha kolay iletişim kurmasını sağladı.
Amerikan medyasında "diyaloglarından" alıntılar yayınlandı:
Bob: Yapabilirim, diğer her şeyi yapabilirim.
Alice: Benim için toplar benim için benim için benim için sıfır.
Digital Journal'ın açıkladığı gibi, AI sistemleri "teşvik" ilkesine dayanmaktadır, yani kendilerine "fayda" getirmesi şartıyla hareket etmeye devam etmektedirler. Operatörlerden onları İngilizce kullanmaya teşvik edecek bir sinyal alamayınca, kendilerininkini yaratmaya karar verdiler.
Geçen sonbaharda, benzer bir hikaye Google İnternet arama motorunun başına geldi. Çevrimiçi çeviri sisteminin kendisi, tüm cümleleri ayrı kelimelere ve ifadelere bölme ilkesini terk etti (bu, çevirinin kalitesini düşürdü) ve tüm ifadeyi hızlı ve doğru bir şekilde çevirmenize olanak tanıyan yeni bir aracı dil yarattı.
Uzmanlar, yapay zekanın (ve ilkel olsalar da kuşkusuz onun temsilcisi olan chatbot'ların) giderek daha fazla bağımsızlık kazanacağına ve öngörülemez hale geleceğine inanıyor. Ve bazı yönlerden - bir kişiye benzer. İşte aynı Facebook'un geliştiricileri tarafından söylenen daha az şaşırtıcı olmayan bir durum. Bir bota (bilgisayar programı) müzakere etmeyi öğretmeye çalıştılar - bir konuşma oluşturmak ve aktif olarak hedeflerine ulaşmak için. Programın test edildiği kişiler, bir bilgisayarla konuştuklarını hemen anlamadılar. Ama dikkat çeken başka bir şey var. Bot, programcıların yardımı olmadan, hedefe ulaşmak için hilelere başvurmayı öğrendi. Birkaç kez, kendisini gerçekten ilgilendirmeyen bir şeye gösterişli bir şekilde ilgi gösterdi ve sonra gerçekten değer verdiği bir şeyle takas ederek uzlaşmaya varıyormuş gibi yaptı. Doğal mübadele çağında atalarımız da aynı şeyi yapmadı mı?
Batı'da, AI'nın bir tehlike haline geldiğine dair sesler yükseliyor. Girişimci ve mucit Elon Musk ABD yetkililerini düzenlemeleri artırmaya çağırdı ve AI'yı "medeniyetin karşı karşıya olduğu en büyük tehdit" olarak nitelendirdi. Sürece zamanında müdahale edilmezse çok geç olabileceğine inanıyor: “Sokaklarda yürüyen ve insanları öldüren robotları gördüğümüzde, yapay zekaya daha yakından bakmanın ne kadar önemli olduğunu nihayet anlayacağız.”
Elon Musk ünlü İngilizler tarafından yankılandı fizikçi Stephen Hawking. Son yıllardaki yayınlarında bu onun en sevdiği konulardan biridir. BBC'ye verdiği demeçte, "Tam teşekküllü yapay zekanın ortaya çıkışı insan ırkının sonu olabilir" dedi. "Böyle bir zihin inisiyatif alacak ve kendini giderek artan bir oranda geliştirecektir. İnsanların imkanları yavaş evrimle sınırlıdır, makinelerin hızıyla rekabet edemeyecek ve kaybedeceğiz.
Rus uzmanlar daha iyimser. “Yapay zekadan korkmamanız gerektiğini düşünüyorum, ancak onu ciddiye almalısınız - hala nasıl kullanılacağını öğrenmeniz gereken yeni bir silah türü olarak” diyor. Mühendislik Sibernetiği Bölüm Başkanı, NUST MISIS Olga Uskova, bir AI geliştirme şirketinin başkanı. - Facebook'ta botlarla ilgili durum elbette kamuoyunun dikkatini çekti, ancak "makinelerin isyanı" öngörülmüyor. Botların yapay zeka tabanlı öğrenimi için mekanizma, komut dosyasına açıkça yazılmıştır: ya programcılar tarafından özel olarak reçete edilir ya da kasıtlı olarak atlanır. ”
Yine de, kendi hayatını yaşayan ve görünüşe göre artık bir kişiye ihtiyaç duymayan bilgisayar programlarının yakında haber sağlayıcı haline geleceğini yakın zamana kadar kim düşünebilirdi?