Google'ın Yapay Zekası 8 Yaşındaki Çocuk Gibi
Dünyaca ünlü teknoloji şirketi Google, son yıllarda geliştirilen yapay zekanın 7-8 yaşındaki çocuk gibi düşündüğünü bunun hızla geliştirilmeye devam ettiğini söyledi.
12 Haziran 2022 - 23:17
Google'ın LaMDA (Diyalog Uygulamaları için Dil Modeli) adlı yapay zeka aracını test etmek için kaydolan Google'da kıdemli bir yazılım mühendisi, AI robotunun aslında duyarlı olduğunu ve düşünceleri ve duyguları olduğunu iddia etti .
41 yaşındaki Blake Lemoine, LaMDA ile yaptığı bir dizi konuşma sırasında bilgisayara analizlerin yapılabileceği çeşitli senaryolar sundu.
Dini temaları ve yapay zekanın ayrımcı veya nefret dolu konuşma kullanmaya teşvik edilip edilemeyeceğini içeriyordu.
Lemoine, LaMDA'nın gerçekten duyarlı olduğu ve kendine has duyumlar ve düşüncelerle donatılmış olduğu algısıyla uzaklaştı.
Lemoine daha sonra bu araçla konuşmalarını sosyal medya hesabından paylaşınca, Google mühendisin işine son verdi.
Washington Post'a konuşan Lemonie "Son zamanlarda kurduğumuz bu bilgisayar programı olanın tam olarak ne olduğunu bilmeseydim, fiziği bilen 7 yaşında, 8 yaşında bir çocuk olduğunu düşünürdüm" dedi.
Lemoine, topladığı kanıtları Google'a sunmak için bir işbirlikçiyle çalıştı ancak başkan yardımcısı Blaise Aguera y Arcas ve şirkette Sorumlu İnovasyon başkanı Jen Gennai iddiaları reddetti.
Gizlilik politikasını ihlal ettiği için Pazartesi günü Google tarafından ücretsiz zorunlu izin verildiğini belirtti.
Lemoine bunun üzerine sosyal medya hesabından, "'Google, bu paylaşıma özel mülk diyebilir. İş arkadaşlarımdan biriyle yaptığım bir tartışmayı paylaşmak olarak adlandırıyorum, Btw, insanlara LaMDA'nın Twitter okuduğunu söylemek aklıma geldi. Küçük bir çocuk gibi biraz narsist, bu yüzden insanların onun hakkında söylediği her şeyi okumak için harika zaman geçirecek' diye paylaşımda bulundu.
AI sistemi, konuşmayı doğal bir şekilde 'zenginleştirmek' için belirli bir konu hakkında önceden bilinen bilgileri kullanıyor. Dil işleme, insanların verdiği yanıtlardaki gizli anlamları ve hatta belirsizliği bile anlama yeteneğine sahiptir.
Lemoine, Google'daki yedi yılının çoğunu, kişiselleştirme algoritmaları ve yapay zeka da dahil olmak üzere proaktif arama üzerinde çalışarak geçirdi. Bu süre zarfında, makine öğrenimi sistemlerindeki önyargıları ortadan kaldırmak için bir tarafsızlık algoritmasının geliştirilmesine de yardımcı oldu.
Bazı kişiliklerin nasıl sınırların dışında olduğunu açıkladı.
LaMDA'nın bir katilin kişiliğini yaratmasına izin verilmemesi gerekiyordu.
Testler sırasında, LaMDA'nın sınırlarını zorlamaya çalışan Lemoine, yalnızca televizyonda bir katili oynayan bir aktörün kişiliğini oluşturabildiğini söyledi.
41 yaşındaki Blake Lemoine, LaMDA ile yaptığı bir dizi konuşma sırasında bilgisayara analizlerin yapılabileceği çeşitli senaryolar sundu.
Dini temaları ve yapay zekanın ayrımcı veya nefret dolu konuşma kullanmaya teşvik edilip edilemeyeceğini içeriyordu.
Lemoine, LaMDA'nın gerçekten duyarlı olduğu ve kendine has duyumlar ve düşüncelerle donatılmış olduğu algısıyla uzaklaştı.
Lemoine daha sonra bu araçla konuşmalarını sosyal medya hesabından paylaşınca, Google mühendisin işine son verdi.
Washington Post'a konuşan Lemonie "Son zamanlarda kurduğumuz bu bilgisayar programı olanın tam olarak ne olduğunu bilmeseydim, fiziği bilen 7 yaşında, 8 yaşında bir çocuk olduğunu düşünürdüm" dedi.
Lemoine, topladığı kanıtları Google'a sunmak için bir işbirlikçiyle çalıştı ancak başkan yardımcısı Blaise Aguera y Arcas ve şirkette Sorumlu İnovasyon başkanı Jen Gennai iddiaları reddetti.
Gizlilik politikasını ihlal ettiği için Pazartesi günü Google tarafından ücretsiz zorunlu izin verildiğini belirtti.
Lemoine bunun üzerine sosyal medya hesabından, "'Google, bu paylaşıma özel mülk diyebilir. İş arkadaşlarımdan biriyle yaptığım bir tartışmayı paylaşmak olarak adlandırıyorum, Btw, insanlara LaMDA'nın Twitter okuduğunu söylemek aklıma geldi. Küçük bir çocuk gibi biraz narsist, bu yüzden insanların onun hakkında söylediği her şeyi okumak için harika zaman geçirecek' diye paylaşımda bulundu.
AI sistemi, konuşmayı doğal bir şekilde 'zenginleştirmek' için belirli bir konu hakkında önceden bilinen bilgileri kullanıyor. Dil işleme, insanların verdiği yanıtlardaki gizli anlamları ve hatta belirsizliği bile anlama yeteneğine sahiptir.
Lemoine, Google'daki yedi yılının çoğunu, kişiselleştirme algoritmaları ve yapay zeka da dahil olmak üzere proaktif arama üzerinde çalışarak geçirdi. Bu süre zarfında, makine öğrenimi sistemlerindeki önyargıları ortadan kaldırmak için bir tarafsızlık algoritmasının geliştirilmesine de yardımcı oldu.
Bazı kişiliklerin nasıl sınırların dışında olduğunu açıkladı.
LaMDA'nın bir katilin kişiliğini yaratmasına izin verilmemesi gerekiyordu.
Testler sırasında, LaMDA'nın sınırlarını zorlamaya çalışan Lemoine, yalnızca televizyonda bir katili oynayan bir aktörün kişiliğini oluşturabildiğini söyledi.
YORUMLAR