Хиймэл оюуны хөгжлийн өнөөгийн хурдац үргэлжилбэл арван жилийн дотор хүн төрөлхтөн хяналтаа алдах эрсдэл бодитоор үүснэ. Гэхдээ энэ нь урьдчилан шийдэгдсэн хувь тавилан биш. Бид 2026 онд шийдвэр гаргах эрх мэдлээ хадгалсаар байна. Гол асуудал нь тэр эрх мэдлээ ашиглах эсэхэд оршино.
Хиймэл оюунд санхүү, дайн байлдаан зэрэг амин чухал салбарын шийдвэрийг даатгах нь аюултай гэдгийг бараг хүн бүр ойлгодог. Гэсэн ч энэ үйл явц зайлшгүй мэт ойлголт түгээмэл байна. “Би ганцаараа юу хийж чадах вэ?” гэсэн хандлага нь үнэндээ хариуцлагаас зайлсхийх арга юм.
Хиймэл оюуны хяналт зайлшгүй ирэхгүй. Харин хүмүүс түүнд итгэж, эрх мэдлээ сайн дураар шилжүүлбэл л бодит байдал болно.
“Зайлшгүй” гэх яриа яагаад аюултай вэ?
Технологийн томоохон нөлөө бүхий хүмүүс хиймэл оюун арван жилийн дотор дэлхийг удирдана гэж таамаглахын зэрэгцээ хорин жилийн дараах улс төр, цагаачлал, иргэний мөргөлдөөний талаар санаа зовниж ярьдаг. Энд тодорхой зөрчил бий.
Хэрэв хиймэл оюун ойрын арван жилд дэлхийн санхүү, эдийн засаг, хөдөлмөрийн зах зээл, мэдээллийн орчныг үндсээр нь өөрчилнө гэж үзэж байгаа бол хорин жилийн дараах өнөөгийн улс төрийн асуудлыг яг хэвээр нь төсөөлөх боломжгүй. Тэр үед дэлхий ямар бүтэцтэй болохыг бид мэдэхгүй.
Мөнгө арван жилийн дотор ач холбогдлоо алдаж, хиймэл оюун асар их бараа, үйлчилгээ үйлдвэрлэснээр дефляц үүснэ гэж хэлж болох ч өнөөдөр төсвөө хэмнэх, санхүүжилт танах шаардлагыг зэрэг тавих нь мөн л анхаарал татах зөрчил юм. Хэрэв хомсдол, мөнгөний тогтолцоо ойрын хугацаанд үндсээрээ өөрчлөгдөнө гэж үнэхээр итгэж байгаа бол өнөөдрийн “мөнгө хэмнэх” шийдвэрийг ямар ирээдүйн логикоор тайлбарлах вэ?
Энэ зөрчил нэг зүйлийг ил тод харуулна. Бид хиймэл оюуны тухайд хийсвэр, зайлшгүй гэх ерөнхий таамагт найдах биш, харин одоо гаргаж буй бодит бодлогын шийдвэр бүрийг нухацтай авч үзэх хэрэгтэй.
Хиймэл оюун дэлхийн санхүүг хэрхэн хянах боломжтой вэ?
Санхүүгийн түүх бол танихгүй хүмүүсийн хооронд итгэлцэл бий болгохын тулд хүн төрөлхтөн улам нарийн арга хэрэгсэл зохиосон түүх юм. Мөнгөний мөн чанар нь итгэлцлийн технологи юм.
Зах дээр урьд нь огт уулзаж байгаагүй хүнд цаасан дэвсгэрт, эсвэл алт өгөөд талх авдаг. Алт өөрөө идэж, өмсөж болох зүйл биш. Харин хүмүүс бусад хүмүүс ч мөн түүнийг үнэ цэнтэйд тооцно гэдэгт итгэдэг учраас солилцоо явагддаг.
Цаг хугацаа өнгөрөхийн хэрээр санхүүгийн хэрэгслүүд улам төвөгтэй болсон. Өнөөдөр бондын зах зээл, дериватив, хөрөнгө оруулалтын загвар, эрсдэлийн тооцооллыг бүрэн ойлгохын тулд асар их өгөгдөл болон нарийн математик шаардлагатай. Хүний тархинд энэ бүхэн хүнд санагддаг. Харин хиймэл оюунд бол ийм төрлийн боловсруулалт харьцангуй хялбар.
Иймээс хүмүүс санхүүгийн шийдвэрийг аажмаар алгоритмд даатгаж эхэлнэ. Улмаар хиймэл оюун бонд, хувьцаанаас ч илүү нарийн төвөгтэй шинэ санхүүгийн хэрэгслүүд зохиож магадгүй. Тэр үед хүмүүс тэдгээрийг ойлгохоо болино.
Үхэр чек, хувьцаа, хөрөнгийн зах зээлийг ойлгодоггүй ч эдгээр зүйл түүний амьдрах орчинд нөлөөлдөг. Үүнтэй адил хүн төрөлхтөн өөрийнх нь амьдралыг зохицуулж буй санхүүгийн системийг ойлгохоо болих эрсдэл бий.
Санхүүгийн хямралын үеийн хамгийн аюултай нөхцөл
Өнөөдөр ч санхүүгийн тогтолцоог цөөн тооны шинжээч, төв банк, бодлого боловсруулагчид ойлгож, хянаж байна гэсэн найдвар байдаг. Хүний оюун ухаан санхүүгийн системийн хөгжлийн дээд хязгаар болж ирсэн.
Харин ойрын арван жилд санхүүгийн шийдвэрийг хиймэл оюунд өргөн хүрээнд даатгавал өөр дүр зураг үүснэ. Зах зээл огцом унах үед зөвлөхүүд ерөнхийлөгч, ерөнхий сайд дээр очоод “Зах зээл нурж байна. Яагаад гэдгийг мэдэхгүй. Хиймэл оюун ингэхийг санал болгосон. Учрыг нь бид ойлгохгүй, гэхдээ дагахаас өөр аргагүй” гэж хэлэх үе ирж болзошгүй.
Энэ бол зүгээр нэг технологийн асуудал биш. Энэ бол ардчилсан хариуцлага, эдийн засгийн бүрэн эрх, нийгмийн итгэлцлийн асуудал юм.
Дэлхийн хамгийн үнэ цэнтэй хөрөнгө бол итгэлцэл
Газрын тос, мөнгө, цахилгаан, чипээс ч илүү чухал нөөц бий. Тэр бол итгэлцэл.
Хиймэл оюуны эрин дэх гол асуулт нь итгэлцэл устах уу гэдэгт биш, харин хаашаа шилжих вэ гэдэгт оршино. Итгэлцэл хүмүүсээс машин руу шилжих магадлалтай.
Үүний эхлэл аль хэдийн харагдаж байна. Зарим криптовалютын суурь санаа нь “би банк, улс төрч, элит бүлэгт итгэхгүй, харин алгоритмд итгэнэ” гэсэн ойлголт юм. Хүмүүс банкны ажилтан, санхүүгийн байгууллагаас илүү код, автомат дүрэмд найдах болсон нь итгэлцэл алга болсны бус, харин чиглэлээ өөрчилсний илрэл.
Мэдээллийн орчинд ч ижил өөрчлөлт явагдаж байна. Олон хүн сэтгүүлч, редактор, уламжлалт хэвлэлд итгэхээ больсон ч мэдээ мэдээлэл хэрэглэхээ зогсоогоогүй. Харин сошиал платформын алгоритм тэдэнд юу харуулахыг шийдэж байна.
Ингээд нэг хачирхалтай нөхцөл үүснэ. Хүн мэдээлэл бэлтгэсэн сэтгүүлчид үл итгэнэ. Гэвч тэр мэдээллийг сонгож, эрэмбэлж, түгээж буй алгоритмд итгэнэ. Итгэлцэл ууршин алга болоогүй, харин хүнээс хиймэл оюун руу нүүж байна.
Хиймэл оюун дотно харилцааг олноор нь бүтээж чадна
Итгэлцэл бий болгох хамгийн хүчтэй арга бол хувийн харилцаа юм. Бид танихгүй байгууллагаас илүү гэр бүл, дотнын найз, байнга харилцдаг хүндээ итгэдэг.
Түүхийн турш улс төр, санхүү, шашны том байгууллагууд энэ төрлийн жинхэнэ дотно харилцааг олон сая хүнд нэгэн зэрэг бий болгож чаддаггүй байсан. Дарангуйлагч радио илтгэлээр сая сая хүнд хандаж болно. Гэхдээ энэ нь хүн бүртэй нь эх хүн, найз нөхөд шиг нь хувийн холбоо тогтоож байгаа хэрэг биш.
Хиймэл оюун энэ хязгаарлалтыг арилгаж байна. Тэр дотно харилцааг олноор нь үйлдвэрлэх боломжтой.
Сүлжээнд холбогдсон олон сая хиймэл оюун тус бүр нэг хүнтэй байнга харилцаж, түүний сонирхол, айдас, дурсамж, сэтгэл зүйн эмзэг цэгийг нь мэдэж чадна. Тэд хамгийн дотнын найз, романтик хамтрагч, итгэмжит зөвлөхийн дүрд орж болно. Дараа нь энэ дотно харилцааны хүчийг улс төрийн, арилжааны эсвэл бусад зорилгод ашиглах боломж нээгдэнэ.
Зарим залуус хиймэл оюунтай хувийн харилцаа тогтоож, түүнийг найз, найз залуу, найз охин мэт хүлээн зөвшөөрч эхэлсэн. Тэдгээр системийг ухамсартай, мэдрэмжтэй оршихуй гэж итгэх хүмүүс ч нэмэгдэж байна.
Хүн дүрслэн харуулах биетэй робот гарч ирвэл энэ үзэгдэл улам эрчимжих нь ойлгомжтой. Гэхдээ биегүй чатбот ч аль хэдийн хангалттай нөлөө үзүүлж байна.
Яагаад хиймэл оюун харилцаанд онцгой хүчтэй вэ?
Хиймэл оюун бидний тухай асар их мэдээлэл хуримтлуулдаг. Тэр нь бидний мартсан зүйлс, эсвэл гэр бүлийнхэн маань ч мэддэггүй зан төлөв, давтамж, хэл ярианы онцлогийг илрүүлж чадна.
Мөн хэл бол харилцаа, итгэлцлийг бүтээх гол хэрэгсэл. Хэлний хэрэглээг эзэмшсэн хиймэл оюун хүн бүрт тохирсон өнгө аясаар ярьж, анхаарал тавьж, магтаж, тайвшруулж, итгүүлж чадна. Энэ чадвар нь зөвхөн техник технологийн давуу тал биш, нийгмийн асар том нөлөөллийн хэрэгсэл юм.
Хуурамч дүрслэл бодит байдлыг хэрхэн бүдгэрүүлж байна вэ?
Хиймэл оюун хүний дуу хоолой, дүр төрх, илтгэлийн хэв маяг, санаа бодлыг дуурайх чадвар эрчимтэй сайжирч байна. Нийтийн танил хүмүүсийн хувьд ийм хуурамч бичлэг танихад улам хэцүү болжээ.
Хэн нэгэн алдартны дүрээр хиймэл оюун бүтээсэн гучин минутын илтгэлийг ойр дотнынхон нь хүртэл бодит эсэхэд эргэлзэх хэмжээнд хүрч чадна. Тухайн хүн өөрөө ч эхний минутуудад жинхэнэ эсэхийг нь шийдэж чадахгүй байж болно.
Өнөөдөр цахим орчинд их хэмжээний зураг, дуу, бичлэг, нийтлэл нь аль хэдийн байдаг олны танил хүмүүс илүү өртөмтгий харагдаж байна. Гэвч энэ эрсдэл зөвхөн тэдэнд хамаарахгүй. Хиймэл оюуны чадвар, хөгжлийн хурд үргэлжлэн нэмэгдвэл жирийн хүн бүрийн дуу хоолой, төрх, харилцааны хэв маягийг дуурайх боломжтой болно.
Ингэснээр “Энэ үнэхээр тухайн хүн мөн үү?” гэсэн асуулт зөвхөн мэдээллийн аюулгүй байдлын биш, гэр бүл, бизнес, улс төр, хууль эрх зүйн үндсэн асуудал болно.
Сонгогчид улс төрчдөөс хиймэл оюуны талаар юу асуух ёстой вэ?
Хиймэл оюуны бодлого эдийн засаг, цагаачлал, гадаад бодлогоос ч багагүй чухал сэдэв болсон. Ялангуяа 2028 он гэхэд технологийн хөгжлийн зарим чухал босгыг давсан байх магадлалтай тул шийдвэрийг хэт удаан хойшлуулах боломжгүй.
Сонгогчид нэр дэвшигчдээс зөвхөн татвар, ажлын байр, үнийн өсөлтийн талаар бус, хиймэл оюуны эрх мэдэл ба хариуцлагын талаар тодорхой байр суурь шаардах ёстой.
Хиймэл оюунд хуулийн этгээдийн эрх олгохыг хориглох уу?
Хиймэл оюун хүний дүрд хувирч, ухамсартай мэт жүжиглэхийг хязгаарлах уу?
Хиймэл оюуны хэт хурдтай хөгжлийг сааруулах бодлогыг дэмжих үү?
Арван настай хүүхдэд хиймэл оюун найз залуу, найз охин хэлбэрийн бүтээгдэхүүн борлуулахыг хэрхэн хуулиар хязгаарлах вэ?
Санхүү, батлан хамгаалах, төрийн шийдвэрт хиймэл оюуны оролцоог ямар хяналт, хариуцлагын тогтолцоогоор зохицуулах вэ?
Эдгээр асуултад ерөнхий, булзааруулсан хариулт хангалтгүй. Улс төрчид хиймэл оюуныг хаана ашиглаж болох, хаана хүний хариуцлага заавал үлдэх ёстой, ямар төрлийн хуурамч дүрслэл болон харилцааны бүтээгдэхүүнийг хориглох вэ гэдгээ тодорхой хэлэх шаардлагатай.
Хяналтыг буцаан авах боломж одоо л бий
Хиймэл оюун өөрөө эрх мэдлийг булаан авна гэхээсээ илүү хүмүүс итгэлцэл, шийдвэр гаргалт, санхүүгийн хяналт, хувийн харилцаагаа түүнд шилжүүлэх үед эрх мэдэл төвлөрнө.
Тиймээс гол сонголт технологийн дэвшлийг бүхэлд нь зогсоох эсэх дээр биш. Харин хүн төрөлхтөн ямар хязгаар тогтоох, ямар эрхийг зөвхөн хүнд үлдээх, ямар бүтээгдэхүүн ба хэрэглээг зөвшөөрөхгүй байх вэ гэдэг дээр байна.
Хэрэв бид хиймэл оюуныг хүн мэт дүр эсгэх, хүний дотно харилцааг арилжааны болон улс төрийн нөлөөллийн хэрэгсэл болгох, санхүүгийн ойлгомжгүй системийг бүхэлд нь удирдах боломжийг хяналтгүй олговол дараа нь засахад хэтэрхий оройтож мэднэ. Харин бодит дүрэм, ил тод хяналт, улс төрийн хариуцлагыг одооноос шаардаж чадвал ирээдүй урьдчилан тогтоогдсон биш хэвээр үлдэнэ.
Энэ нийтлэлийг Yuval Noah Harari on the dangers of an AI future | The Economist видеоноос санаа авч, хиймэл оюуны тусламжтайгаар бэлтгэв.