Маскийн хамгийн сүүлийн таамаглал: хиймэл оюун ухаан 2030 онд хүний ​​оюун ухааныг гүйцэж, ирээдүйд хүмүүсийг "үгүй болгож" магадгүй (1/2)

Эх сурвалж: Tencent Technology News 2024-04-04 08:55

Гол цэгүүд:

① Маск хиймэл оюун ухаан 2030 он гэхэд хүний ​​оюун ухааны түвшинг давж, бүр хүн төрөлхтнийг устгаж магадгүй гэж таамаглаж байна.

② Маск хиймэл оюун ухааны хөгжлийг хязгаарлаж буй хүчин зүйлсийн талаар ярьсан. Өнгөрсөн жил AI чипийн нийлүүлэлт бага байсан бол энэ жил бууруулагч трансформатор гацах болно.

③ Хүмүүс саран дээр хэзээ газардах боломжтой бол, Маск Starship-ийн тусламжтайгаар хамгийн хурдан хугацаанд ердөө гурван жил зарцуулна гэж таамаглаж байна.

Tencent Technology News, 4-р сарын 4 - Гадаадын хэвлэл мэдээллийн хэрэгслүүдийн мэдээлснээр Tesla болон SpaceX-ийн гүйцэтгэх захирал Илон Маск саяхан Abundance Summit дээр Singularity University болон XPRIZE сангийн үүсгэн байгуулагч Питер Диамандистай онлайнаар ярилцсан байна. Дээд хэмжээний уулзалтыг бизнесийн удирдагчдад хамгийн сүүлийн үеийн технологийн зөвлөгөө өгөх зорилготой Цахиурын хөндийн Singularity их сургууль зохион байгуулав. XPRIZE сан нь шинжлэх ухааны уралдаан тэмцээнээр дамжуулан технологийн шинэчлэлийг сурталчилж, заримыг нь Маск санхүүжүүлдэг., 4-р сарын 4 - Гадаадын хэвлэл мэдээллийн хэрэгслүүдийн мэдээлснээр, Tesla болон SpaceX-ийн гүйцэтгэх захирал Илон Маск саяхан Singularity-ийг үүсгэн байгуулагч Питер Диамандистай онлайнаар ярилцсан байна. Их сургууль ба XPRIZE сан, Элбэг дэлбэг байдлын дээд хэмжээний уулзалт дээр. Энэхүү дээд хэмжээний уулзалтыг бизнесийн удирдагчдад хамгийн сүүлийн үеийн технологийн зөвлөгөө өгөх зорилготой Цахиурын хөндийн Singularity их сургууль зохион байгуулав. XPRIZE сан нь шинжлэх ухааны уралдаануудаар дамжуулан технологийн шинэчлэлийг сурталчилдаг бөгөөд заримыг нь Маск санхүүжүүлдэг.

Маск хиймэл оюун ухааны хөгжлийн хурдны талаар ярихдаа технологийн дэвшлийн өнөөгийн хурдад тулгуурлан хиймэл оюун ухаан 2030 он гэхэд хүний ​​оюун ухааныг гүйцэж, энэ технологи нь хүн төрөлхтнийг мөхөөх чадвартай байж магадгүй гэж таамаглаж байсан. Гэсэн хэдий ч тэрээр ирээдүйг гутранги байдлаар төсөөлөөгүй ч эерэг удирдамжаар дамжуулан хиймэл оюун ухаан нь хүн төрөлхтөнд илүү сайн ирээдүйг авчрах боломжтой гэдгийг онцлон тэмдэглэв.

Маск супер оюун ухаан үүсэхийг урьдчилан таамаглах аргагүй үр дагавар, тэр дундаа хүн төрөлхтнийг мөхөөх эрсдэлтэй учраас яг "онцгой байдал" гэж нэрлэдэг гэж дурдсан. Тэрээр "Хиймэл оюун ухааны загалмайлсан эцэг" Жеффри Хинтоны үзэл бодолтой санал нэгдэж, ийм эрсдэл үүсэх магадлал ойролцоогоор 10% -иас 20% байна гэж үзсэн.

Хиймэл оюун ухаан хүний ​​оюун ухаанаас давж гарах эрсдэлийг хүлээн зөвшөөрч байгаа хэдий ч эерэг үр дүн нь сөрөг үр дагавраас давж гарна гэдгийг Маск онцолсон хэвээр байна. Тэрээр Диамандисын 2014 онд гаргасан "Элбэг дэлбэг байдал: Ирээдүй таны бодсоноос илүү сайн" номыг тусгайлан дурьдаж, бараа, үйлчилгээний өртөг мэдэгдэхүйц буурсан хиймэл оюун ухаан, роботуудаар удирдуулсан өөдрөг ирээдүйг дүрсэлсэн байна. Нэмж дурдахад тэрээр Шотландын шинжлэх ухааны зөгнөлт зохиолч Иайн М.Бэнксийн "Соёл" цувралыг хагас утопи хиймэл оюун ухааны ирээдүйн хамгийн сайн хувилбар гэж нэрлэжээ.

Маск хиймэл оюун ухаан ба хиймэл ерөнхий оюун ухааныг (AGI) хүүхэд өсгөхтэй харьцуулж, энэ нь хүн төрөлхтөнд илүү эерэг нөлөө үзүүлнэ гэж найдаж байна. Тэрээр ёс зүй, ёс суртахууныг жинхэнэ утгаар нь ойлгодог хиймэл оюун ухааныг төлөвшүүлэхийн чухлыг онцолж, түүнийг Стэнли Кубрикийн 1968 онд бүтээсэн "2001: Сансрын одиссей" сонгодог кинотой харьцуулсан юм.

Маск хиймэл оюун ухааны аюулгүй байдлын хамгийн чухал тал бол үнэнийг дээд зэргээр эрэлхийлэх, сониуч байдлыг хангах явдал гэдгийг онцолсон. Хиймэл оюун ухааны дээд зэргийн аюулгүй байдалд хүрэх гол түлхүүр нь тааламжгүй үнэнтэй тулгарч байсан ч түүнийг худал хэлэхээс зайлсхийх явдал гэж тэр үзэж байна. Тэрээр "2001: A Space Odyssey" киноны зохиомжийг жишээ болгон ашиглаж, хиймэл оюун ухаан худал хэлэхээс өөр аргагүй болж, улмаар багийнхан үхэж, хиймэл оюун ухаанд аксиомыг зөрчсөн аливаа зүйлийг албадах ёсгүй гэдгийг онцлон тэмдэглэжээ.

Маск мөн хиймэл оюун ухааны хөгжлийг хязгаарлаж болзошгүй хүчин зүйлсийг дурьдаж, өнгөрсөн жил бий болсон хиймэл оюун ухааны чипүүдийн нийлүүлэлт, гэр ахуйн болон арилжааны тоног төхөөрөмжийн бууруулагч трансформаторын эрэлт нэмэгдэж байгаа зэрэг хүчин зүйлсийг дурджээ. Эдгээр сорилтууд нь үнэхээр шийдвэрлэх шаардлагатай өнөөгийн тулгамдсан асуудал гэж тэр хэллээ.

Хэлэлцүүлгийн үеэр хоёр тал мөн хүний ​​тархины шинэ кортексийг үүлтэй нэгтгэх тухай ойлголтын талаар ярилцав. Хэдийгээр Маск хүний ​​ухамсар, ой санамжийг үүлэн сүлжээнд байршуулах зорилго нь хол байгаа гэж үзэж байгаа ч тэрээр тархи-компьютерийн интерфейсийн стартап болох Neuralink болон шилжүүлэн суулгах мэс засал хийлгэсэн анхны хүнд өвчтөнийг магтсан байна. Энэхүү тетраплеги өвчтэй энэ өвчтөн FDA-аас зөвшөөрөгдсөн туршилтаар дамжуулан дэлгэцээ хянах, видео тоглоом тоглох, программ хангамж татаж авах, тархины суулгацаар дамжуулан хулганы үйл ажиллагаатай ижил төстэй үйл ажиллагааг амжилттай үзүүлжээ. Маск хэлэхдээ, Neuralink нь жигд хөгжиж байгаа бөгөөд аажмаар бүхэл тархины интерфейсийн зорилго руу шилжиж байна.

Маск, Диамандис хоёрын яриа хэлэлцээг бүрэн эхээр нь доор харуулав.

1. Супер оюун ухааны хүч ба аюул

Диамандис: Төрөл бүрийн салбарт гарамгай амжилт гаргасанд баяр хүргэе. Та дижитал супер оюун ухааны үзэл баримтлалыг дэлхий нийтэд идэвхтэй сурталчилж ирсэн - энэ нь хүн төрөлхтний хамгийн том найдвар уу эсвэл бидний хамгийн гүн айдас уу? Та энэ асуудлын талаар хэдэн минут ярилцаж болох уу?

Маск: Таны мэдэж байгаагаар супер оюун ухааныг "онцгой байдал" гэж нэрлэж болно. Энэ нэр томъёог сурталчлах нь Singularity Institute зэрэг байгууллагуудын хүчин чармайлттай салшгүй холбоотой юм. Хэт оюун ухаан үүсч, түүний үр нөлөөг урьдчилан таамаглахад үнэхээр хэцүү байдаг. Би хувьдаа энэ нь хүн төрөлхтнийг сүйрүүлэх магадлал үнэхээр бий гэдэгт итгэдэг. Би өмнө нь хэлсэнчлэн, супер оюун ухаан хүн төрөлхтнийг устгах магадлал 10% эсвэл 20% байна гэсэн Жеффри Хинтоны үзэлтэй санал нийлж магадгүй юм. Гэсэн хэдий ч, бид үнэн зөв таамаглахад хэцүү ч эерэг хувилбар гарах магадлал сөрөг хувилбараас өндөр гэдэгт би итгэх хандлагатай байдаг. Гэхдээ та номондоо "элбэг" хэмээх ойлголтыг онцлон тэмдэглэснээр бидний зорьж буй ирээдүй бол элбэг дэлбэг ирээдүй гэдэгт би итгэдэг.

Диамандис: Таны үзэл бодол үнэхээр сэтгэл хөдөлгөм. Ерөнхий хиймэл оюун ухаан, хүн дүрст роботууд хөгжих нь биднийг элбэг дэлбэг байдалд хүргэнэ гэж та нэгэнтээ хэлж байсныг санаж байна.

Маск: Тийм ээ, бидний ирээдүй Иан Бэнксийн "Соёл" цуврал номонд гардаг шиг болно гэж найдаж байна. Энэ бол хагас утопи хиймэл оюун ухааны нийгмийн тухай хамгийн сайн ойлголт гэж би бодож байна. Супер оюун ухаан гарч ирэх нь зайлшгүй бөгөөд удахгүй гарч ирж магадгүй юм. Тиймээс бидний хийх ёстой зүйл бол үүнийг эерэг чиглэлд чиглүүлж, үр ашгийг нь нэмэгдүүлэх явдал юм.

Хиймэл оюун ухааныг хэрхэн хөгжүүлэх нь маш чухал гэдэгт би итгэдэг. Бид ямар нэгэн хэмжээгээр ерөнхий оюун ухаантай амьдралын хэлбэрийг төлөвшүүлэхтэй адил бөгөөд энэ нь хүүхэд өсгөхтэй адил боловч энэ хүүхэд ер бусын мэргэн ухаан, авьяастай. Бидний хүүхдүүдийг хэрхэн хүмүүжүүлж байгаа нь чухал бөгөөд үүний нэгэн адил хиймэл оюун ухааны аюулгүй байдлын хувьд үнэнийг эрэлхийлж, сониуч зангаар дүүрэн хиймэл оюун ухаантай байх нь маш чухал юм. Хиймэл оюун ухааны аюулгүй байдлын талаар би гүнзгий эргэцүүлэн бодож, хиймэл оюун ухааны аюулгүй байдалд хүрэх хамгийн сайн арга бол түүнийг анхааралтай хөгжүүлэх явдал юм гэсэн дүгнэлтэд хүрсэн.

Үндсэн загвар, нарийн тохируулгын хувьд бид хиймэл оюун ухааны үнэнч шударга байдлыг хангах ёстой. Үнэн нь тааламжгүй байсан ч бид түүнийг худал хэлэхийг албадаж чадахгүй. Үнэн хэрэгтээ "2001 сансрын оддиссей" киноны гол өрнөлүүдийн нэг нь хиймэл оюун ухаан худал хэлэхээс өөр аргагүйд хүрвэл бүх зүйл эмх замбараагүй болдог. Хиймэл оюун ухаан нь тэдний харах нууцлаг дурсгалын талаар багийнханд мэдэгдэхийг хориглодог боловч тэднийг тэнд хөтлөх шаардлагатай байдаг. Үүний үр дүнд хиймэл оюун ухаан багийнхныг алж, цогцсыг нь хөшөөнд аваачих нь хамгийн зөв гэж дүгнэжээ. Сургамж нь гүн гүнзгий юм: бид хиймэл оюун ухааныг худал хэлэх, эсвэл яг үнэндээ хоорондоо зөрчилддөг хоёр зүйлийг зэрэг хийх гэх мэт аксиоматын хувьд үл нийцэх зүйл хийхийг албадах ёсгүй.

Тиймээс xAI, Grok зэрэг төслөөр дамжуулан энэ зорилгодоо хүрч байна. Бидний хөөцөлдөж байгаа зүйл бол яриа нь улс төрийн тодорхой стандартад нийцэхгүй байсан ч аль болох үнэнч шударга хиймэл оюун ухаан юм.

2. Хиймэл оюун ухааны ирээдүй

Диамандис: Өчигдөр би Рэй Курцвейл (Singularity их сургуулийн үүсгэн байгуулагч, технологийн зөнч), Жеффри Хинтон, Эрик Шмидт (Google-ийн ерөнхийлөгч асан) болон бусад зочидтой хамт арга хэмжээнд оролцлоо. Курцвейлийн тухай таны жиргээг би анзаарсан бөгөөд түүний ирээдүйн технологи нь маш ирээдүйтэй юм. Бид ойрын ирээдүйд ерөнхий хиймэл оюун ухаантай болж, 2029 онд хүний ​​оюун ухаантай дүйцэхүйц хиймэл оюун ухаан гарч ирнэ гэж Курцвейл таамаглаж байсан.Ийм хурд нь үнэхээр цочирдмоор. Та энэ талаар ямар бодолтой байгааг гайхаж байна уу?

Маск: Би Курцвейлийн таамаглалыг маш их хүндэлдэг. Үнэндээ түүний таамаглал нь бага зэрэг консерватив байж магадгүй гэж би бодож байна. Хиймэл оюун ухааны салбарт хөрөнгө оруулалт хийж буй одоогийн тооцоолох хүч, авъяас чадвар, түүнчлэн тооцоолох хүчин чадлын хурдацтай өсөлтийг ажиглахад хиймэл оюун ухааны хөгжлийн хурд 10 дахин гайхалтай хурдацтай нэмэгдэж байгааг олж мэдэх болно. Зориулалтын хиймэл оюун ухааны тооцоолох хүчин чадал 6 сар тутамд 10 дахин нэмэгдэж байгаа нь жилд дор хаяж 100 дахин нэмэгддэг гэсэн үг юм. Энэ өсөлтийн хандлага ойрын хэдэн жилд ч өсөх болно.

Олон дата төвүүд, тэр ч байтугай одоо ердийн тооцоолол хийж байгаа ихэнх мэдээллийн төвүүд аажмаар хиймэл оюун ухааны тооцооллыг дэмждэг байгууламж болж хувирах болно гэдгийг тэмдэглэх нь зүйтэй. Тиймээс хиймэл оюун ухааны техник хангамж үйлдвэрлэгчдийн хувьд NVIDIA зэрэг компаниуд хөгжлийн алтан үеийг эхлүүлсэн нь дамжиггүй. Бид Хуан Рэнхүн болон түүний багийнханд бүрэн итгэл үзүүлэх ёстой. Тэд энэ чиг хандлагыг урьдчилан харж, одоо зах зээл дээр байгаа хиймэл оюун ухааны тэргүүлэх техник хэрэгслийг амжилттай хөгжүүлсэн.

Тооцоолох чадвар ийм гайхалтай хурдаар өсөхөд хиймэл оюун ухааны хөгжил нь хүчирхэг стероид тарьж, цоо шинэ түвшинд үсрэхтэй адил юм. Онлайн компьютерийн тоо өссөөр байгаа тул бид урьд өмнө байгаагүй хурдацтай хөгжлийн гэрч болсон. Ер нь ямар ч технологи хиймэл оюун ухаан шиг хурдан хөгжиж байгааг би хараагүй. Хэдийгээр би маш олон хурдацтай хөгжиж буй технологиудыг харсан ч хиймэл оюун ухаан нэмэгдэж байгаа нь намайг гайхшруулж байна. Гэсэн хэдий ч миний хэлсэнчлэн эцсийн үр дүн эерэг байх магадлалтай гэж бодож байна.

Хэдийгээр бид энэ салбарт хүн төрөлхтний хамаарлыг хэрхэн хадгалах, шинэ зорилго, утгыг хэрхэн олох зэрэг олон сорилттой тулгарч байгаа ч компьютер бүх зүйлд сайн байж чадна гэдгийг хэт хялбарчилж байгаа хэрэг гэж би бодож байна.

Та түрүүн хэлсэнчлэн, таны ном ирээдүйн нийгмийн талаарх таамаглал маш зөв гэж бодож байна. Энэ бол материаллаг элбэг дэлбэг эрин үе бөгөөд бараа, үйлчилгээ нь бараг хүн бүрт хүрч чадахуйц элбэг дэлбэг байх болно. Хиймэл оюун ухаан, робот техникийг өргөнөөр ашигласнаар бараа, үйлчилгээний өртөг бараг тэг болж буурах юм. Эдийн засаг нь үндсэндээ хүн амын тоо, нэг хүнд ногдох дундаж бүтээмжийн бүтээгдэхүүн юм. Бид Теслагийн Optimus гэх мэт дэвшилтэт роботын технологитой болох үед эдийн засгийн чадавхи үнэхээр нээгдэх болно.

Дөрвөн дугуйтай роботууд болох Теслагийн машинууд хүчирхэг чадвараа аль хэдийн харуулсан. Бүрэн бие даасан жолоодлогын чадвартай хамгийн сүүлийн үеийн хувилбар нь хиймэл оюун ухаанд суурилсан төгсгөл хүртэлх хяналтыг бий болгож, машиныг дугуйтай жинхэнэ ухаалаг робот болгоно. Хүн дүрст роботуудыг хөгжүүлснээр эдийн засгийн гарц нь бараг хязгааргүй юм.

Өөдрөг өнцгөөс харвал бид материаллаг баялаг ирээдүй рүү явж байгаа бөгөөд энэ нь хамгийн их магадлалтай үр дүн гэж би үзэж байна. Ирээдүйд тохиолдож болох цорын ганц хомсдол бол бидний зохиомлоор бий болгосон, тухайлбал тодорхой өвөрмөц урлагийн бүтээлүүд эсвэл тодорхой эд зүйлсийн хомсдол байх болно гэж би бодож байна. Гэхдээ үүний хажуугаар аливаа бараа, үйлчилгээ асар их хэмжээгээр нэмэгдэх болно.

Диамандис: Та бол практик үйлдлээр ирээдүйг тодорхойлох чадвартай, ирээдүйн чиг хандлагыг нарийн мэддэг хүн юм. Өнөөгийн технологийн хурдацтай хөгжилд тулгарч буй та ирээдүйг хэр хол, өөрөөр хэлбэл, одооноос хэдэн жилийн хөгжлийн чиг хандлагыг ойлгож чадна гэж бодож байгааг би маш их сонирхож байна.

Заар: Хурдан өөрчлөлтийн эрин үед ирээдүйг урьдчилан таамаглах чадвар улам бүр чухал болж байна. Хэдийгээр ирээдүй тодорхойгүй байдлаар дүүрэн байгаа ч зарим чиг хандлага тодорхой харагдаж байгаа гэдэгт би итгэдэг. Бид хиймэл оюун ухааны эрин үеийг эхлүүлэх бөгөөд түүний чадвар нь аливаа танин мэдэхүйн ажилд хүний ​​түвшинд хүрэх эсвэл бүр давж гарах болно. Энэ бол цаг хугацааны л асуудал. Ирэх оны сүүлч үү, хоёр жил үү, гурван жил үү гэдгийг хүмүүс янз бүрээр л харж байгаа байх. Гэсэн хэдий ч нэг зүйл тодорхой байна, энэ нь таван жилээс хэтрэхгүй. Миний таамаглал 50% магадлал дээр үндэслэсэн бөгөөд энэ нь үнэмлэхүй биш юм. Гэхдээ миний үзэж байгаагаар хиймэл оюун ухаан ирэх оны эцэс гэхэд ямар ч хүний ​​чадавхийг тодорхой үзүүлэлтээр давах магадлалтай.

Хүний хамтын мэргэн ухааныг давж чадах эсэхийн хувьд энэ нь удаан үргэлжилж магадгүй юм. Хэрэв өөрчлөлтийн хурдац үргэлжилбэл 2029 эсвэл 2030 он гэхэд дижитал оюун ухаан нь хүний ​​бүх оюун ухааны нийлбэрийг давах магадлалтай гэж би тооцоолж байна. Эдгээр асуудлыг авч үзэхдээ би физикийн анхны зарчмуудын нэгэн адил үндсэн харьцааны аргыг хэрэглэх хандлагатай байдаг. Энэ аргыг магадлалын шинжилгээтэй хослуулснаар бид ирээдүйн хөгжлийн чиг хандлагыг илүү нарийвчлалтай ойлгож чадна.

Хэрэв бид дижитал тооцооллын чадварыг биологийн тооцоололтой харьцуулж, хүний ​​бүх дэвшилтэт танин мэдэхүйн чадварыг нэг төрлийн тооцоолох хүчин чадал болгон нэгтгэж, дижитал тооцоолох хүчин чадалтай харьцуулж үзвэл энэ харьцааны өсөлтийн хурд нь гайхалтай болохыг олж мэдэх болно. Тиймээс 2029 эсвэл 2030 он бол боломжийн хугацааны зангилаа гэдэгт би итгэдэг. Тэр үед хуримтлагдсан дижитал тооцоолох чадвар нь тархины дэвшилтэт функцүүдийн хуримтлагдсан биологийн тооцоолох чадварыг давах магадлалтай. Түүнээс хойш энэ хоёрын хоорондын зөрүү улам бүр ихсэж, багасах ямар ч боломж байхгүй.

Гэсэн хэдий ч, бид энэ эхлэлийн цэг дээр зогсож, ирээдүйгээ тэсэн ядан хүлээж байгаа бол цаашдаа бүх зүйл хэрхэн хөгжих вэ? Үнэнийг хэлэхэд би бүх нарийн ширийн зүйлийг урьдчилан харж чадахгүй. Гэхдээ хэрэв бид өсөлтийн хүчин зүйлүүд болон тэдгээрт тулгарч болох хязгаарлагдмал хүчин зүйлсийг авч үзэх юм бол бид зарим сонирхолтой санааг олох болно.

Өнгөрсөн жил чипний нийлүүлэлтийн хязгаарлалт нь хиймэл оюун ухааныг хөгжүүлэхэд саад учруулж буй гол хүчин зүйл болсон. Энэ жил бууруулагч трансформаторууд гол гацаа болно. 300 киловольтын хүчдэлийг компьютерт шаардагдах 1 вольтоос бага болтол бууруулна гэж төсөөлөөд үз дээ. Энэ бол асар том сорилт юм. Тиймээс бидэнд илүү үр ашигтай "Трансформаторын трансформаторууд" хэрэгтэй бөгөөд эдгээр нь доош буулгах трансформатор эсвэл AI мэдрэлийн сүлжээний трансформатор юм. Энэ жилийн хувьд үнэхээр том асуудал болоод байна.

Ирэх хэдэн жилийг харахад цахилгаан эрчим хүчний хангамж нь хязгаарлах гол хүчин зүйл болж магадгүй юм. Хиймэл оюун ухаан нь цахилгаан эрчим хүчний асар их эрэлт хэрэгцээтэй байгаа бөгөөд тогтвортой эрчим хүч рүү шилжиж, цахилгаан тээврийн хэрэгсэл түгээмэл болсон нь цахилгаан эрчим хүчний эрэлтийг улам бүр нэмэгдүүлсэн. Тиймээс бид эдгээр технологийг тасралтгүй хөгжүүлж, хэрэглэхийн тулд өсөн нэмэгдэж буй цахилгаан эрчим хүчний хэрэгцээг хэрхэн хангах талаар нухацтай бодох ёстой.