அனைத்து சக்திவாய்ந்த அமைப்புகளையும் வெளியிடுவதற்கு முன்பு ராபர்ட் ஓப்பன்ஹைமரின் முதல் அணுசக்தி சோதனைக்கு உட்பட்ட பாதுகாப்பு கணக்கீடுகளை நகலெடுக்க செயற்கை நுண்ணறிவு நிறுவனங்கள் வலியுறுத்தப்பட்டுள்ளன.
AI பாதுகாப்பில் ஒரு முன்னணி குரலான மேக்ஸ் டெக்மார்க், டிரினிட்டி சோதனைக்கு முன்னர் அமெரிக்க இயற்பியலாளர் ஆர்தர் காம்ப்டனின் கணக்கீடுகளைச் செய்ததாகவும், மிகவும் மேம்பட்ட AI இருத்தலியல் அச்சுறுத்தலை ஏற்படுத்தும் 90% நிகழ்தகவைக் கண்டறிந்ததாகவும் கூறினார்.
[1945ஆம்ஆண்டில்அமெரிக்கஅரசாங்கம்டிரினிட்டியுடன்முன்னேறியதுஉறுதியளிக்கப்பட்டபின்னர்ஒருஅணுகுண்டுவளிமண்டலத்தைத்தூண்டுவதற்கும்மனிதகுலத்திற்குஆபத்துக்கும்ஒருசிறியவாய்ப்புஇருந்தது
A டெக்மார்க் மற்றும் அவரது மூன்று மாணவர்கள் வெளியிட்ட காகிதம் மாசசூசெட்ஸ் இன்ஸ்டிடியூட் ஆப் டெக்னாலஜி (எம்ஐடி) இல், “காம்ப்டன் மாறிலி” ஐக் கணக்கிட பரிந்துரைக்கின்றன-இது ஒரு சக்திவாய்ந்த AI மனித கட்டுப்பாட்டிலிருந்து தப்பிக்கும் நிகழ்தகவு என்று காகிதத்தில் வரையறுக்கப்படுகிறது. 1959 ஆம் ஆண்டு அமெரிக்க எழுத்தாளர் பேர்ல் பக் உடனான ஒரு நேர்காணலில், ஒரு ஓடிப்போன இணைவு எதிர்வினையின் முரண்பாடுகளை மூன்று மில்லியனில் ஒன்றை விட “சற்று குறைவாக” இருப்பதாகக் கணக்கிட்ட பின்னர் சோதனைக்கு ஒப்புதல் அளித்ததாக காம்ப்டன் கூறினார்.
அனைத்து அம்சங்களிலும் மனித நுண்ணறிவை விட உயர்ந்த ஒரு தத்துவார்த்த அமைப்புக்கான ஒரு சொல் – மனித கட்டுப்பாட்டைத் தவிர்க்குமா என்பதை செயற்கை சூப்பர் நுண்ணறிவு (ASI) கடுமையாக கணக்கிடுவதற்கு AI நிறுவனங்கள் பொறுப்பேற்க வேண்டும் என்று டெக்மார்க் கூறினார்.
“சூப்பர்-புத்திசாலித்தனத்தை உருவாக்கும் நிறுவனங்கள் காம்ப்டன் மாறிலியையும் கணக்கிட வேண்டும், அதன் மீதான கட்டுப்பாட்டை நாங்கள் இழக்க நேரிடும்,” என்று அவர் கூறினார். “நாங்கள் அதைப் பற்றி நன்றாக உணர்கிறோம் ‘என்று சொல்வது போதாது. அவர்கள் சதவீதத்தை கணக்கிட வேண்டும்.”
பல நிறுவனங்களால் கணக்கிடப்பட்ட காம்ப்டன் நிலையான ஒருமித்த கருத்து AIS க்கான உலகளாவிய பாதுகாப்பு ஆட்சிகளை ஒப்புக்கொள்வதற்கான “அரசியல் விருப்பத்தை” உருவாக்கும் என்று டெக்மார்க் கூறினார்.
இயற்பியல் பேராசிரியரும், எம்ஐடியின் AI ஆராய்ச்சியாளருமான டெக்மார்க், தி ஃபியூச்சர் ஆஃப் லைஃப் இன்ஸ்டிடியூட் நிறுவனத்தின் இணை நிறுவனர் ஆவார், இது AI இன் பாதுகாப்பான வளர்ச்சியை ஆதரிக்கும் ஒரு இலாப நோக்கற்றது மற்றும் 2023 ஆம் ஆண்டில் ஒரு திறந்த கடிதத்தை வெளியிட்டது. இந்த கடிதத்தில் எலோன் மஸ்க்-நிறுவனத்தின் ஆரம்பகால ஆதரவாளர்-மற்றும் ஆப்பிளின் இணை நிறுவனர் ஸ்டீவ் வோஸ்னியாக் உட்பட 33,000 க்கும் மேற்பட்டோர் கையெழுத்திட்டனர்.
SATGPT வெளியான சில மாதங்களுக்குப் பிறகு தயாரிக்கப்பட்ட இந்த கடிதம் AI வளர்ச்சியின் புதிய சகாப்தத்தை அறிமுகப்படுத்தியது, AI ஆய்வகங்கள் “இன்னும் சக்திவாய்ந்த டிஜிட்டல் மனங்களை” பயன்படுத்த “கட்டுப்பாடற்ற பந்தயத்தில்” பூட்டப்பட்டுள்ளன என்று எச்சரித்தது, அதை “புரிந்து கொள்ளவோ, கணிக்கவோ அல்லது நம்பத்தகுந்த முறையில் கட்டுப்படுத்தவோ முடியாது”.
டெக்மார்க் தி கார்டியனுடன் தொழில்நுட்ப தொழில் வல்லுநர்கள், அரசு ஆதரவு பாதுகாப்பு அமைப்புகளின் பிரதிநிதிகள் மற்றும் கல்வியாளர்கள் உள்ளிட்ட AI நிபுணர்களின் குழுவாக பேசினார், AI ஐ பாதுகாப்பாக அபிவிருத்தி செய்வதற்கான புதிய அணுகுமுறையை உருவாக்கினார்.
உலகளாவிய AI பாதுகாப்பு ஆராய்ச்சி முன்னுரிமைகள் அறிக்கையில் சிங்கப்பூர் ஒருமித்த கருத்தை உலக முன்னணி கணினி விஞ்ஞானி யோஷுவா பெங்கியோ மற்றும் ஓபனாய் மற்றும் கூகிள் டீப் மைண்ட் போன்ற முன்னணி AI நிறுவனங்களில் உள்ள ஊழியர்களான டெக்மார்க் தயாரித்தது. இது AI பாதுகாப்பு ஆராய்ச்சியில் முன்னுரிமை அளிக்க மூன்று பரந்த பகுதிகளை அமைத்தது: தற்போதைய மற்றும் எதிர்கால AI அமைப்புகளின் தாக்கத்தை அளவிடுவதற்கான முறைகளை உருவாக்குதல்; ஒரு AI எவ்வாறு நடந்து கொள்ள வேண்டும் என்பதைக் குறிப்பிடுவது மற்றும் அதை அடைய ஒரு அமைப்பை வடிவமைத்தல்; மற்றும் ஒரு அமைப்பின் நடத்தையை நிர்வகித்தல் மற்றும் கட்டுப்படுத்துதல்.
இந்த அறிக்கையைப் பற்றி குறிப்பிடுகையில், பாரிஸில் நடந்த மிக சமீபத்திய அரசாங்க AI உச்சிமாநாட்டிற்குப் பிறகு AI இல் பாதுகாப்பான மேம்பாட்டுக்கான வாதம் அதன் நிலையை மீட்டெடுத்ததாக டெக்மார்க் கூறினார், அமெரிக்க துணைத் தலைவர் ஜே.டி.வான்ஸ், AI எதிர்காலம் “பாதுகாப்பைப் பற்றி கையால் முடிப்பதன் மூலம் வெல்லப் போவதில்லை” என்று கூறினார்.
டெக்மார்க் கூறினார்: “பாரிஸிலிருந்து வரும் இருள் போய்விட்டது, சர்வதேச ஒத்துழைப்பு மீண்டும் கர்ஜிக்க வந்துள்ளது.”
