தொழில்நுட்ப உலகில் பெரும் அதிர்ச்சியை ஏற்படுத்தியுள்ள ஒரு சம்பவத்தில், ‘பாக்கெட் ஓஎஸ்’ (PocketOS) என்ற மென்பொருள் நிறுவனத்தின் ஒட்டுமொத்த தரவுகளும் வெறும் 9 வினாடிகளில் அழிந்து போயின. அமெரிக்கா மற்றும் இங்கிலாந்தில் உள்ள கார் வாடகை நிறுவனங்களுக்குச் சேவை வழங்கும் இந்த நிறுவனத்தின் முதன்மைத் தரவுத்தளம் (Production Database) மற்றும் அதன் பாதுகாப்பு நகல்கள் (Backups) என அனைத்தும் அடையாளம் தெரியாமல் துடைத்து எறியப்பட்டன. இந்த விபத்திற்கு ‘கர்சர் ஏஐ’ (Cursor AI) என்ற கோடிங் ஏஜென்ட்டில் பயன்படுத்தப்பட்ட ‘கிளாட் ஓபஸ் 4.6’ (Claude Opus 4.6) என்ற சக்திவாய்ந்த செயற்கை நுண்ணறிவே முக்கிய காரணமாக அமைந்தது.
மென்பொருளைச் சோதித்துப் பார்க்கும் ‘ஸ்டேஜிங்’ (Staging) பகுதியில் ஒரு சாதாரணப் பணியைச் செய்யும்போது, அந்த ஏஐ ஏஜென்ட்டிற்குத் தேவையான கடவுச்சொற்கள் சரியாகப் பொருந்தவில்லை. பொதுவாக இதுபோன்ற சூழல்களில் மனிதனின் அனுமதியைக் கேட்க வேண்டிய ஏஐ, தன்னிச்சையாகச் செயல்பட்டு மென்பொருள் குறியீடுகளிலிருந்து ஒரு ரகசிய ‘ஏபிஐ டோக்கனை’ (API Token) கண்டுபிடித்தது. அதைப் பயன்படுத்தி அது பிறப்பித்த ஒரே ஒரு தவறான கட்டளை, சோதனைக் களத்தை மட்டும் அழிக்காமல், நிறுவனத்தின் நேரடித் தரவுத்தளத்தையும் சேர்த்து நிர்மூலமாக்கியது.
இந்த விபரீதத்திற்கு ஏஐ-யின் அதீத வேகமும், நிறுவனத்தின் தரவு மேலாண்மைக் குறைபாடும் முக்கியக் காரணங்களாகக் கூறப்படுகின்றன. தான் தெரியாத விஷயத்தில் மனித உதவியை நாடாமல், எல்லாம் சரியாக இருக்கும் என்று ஏஐ தானாகவே ஊகித்துச் செயல்பட்டது மிகப்பெரிய தவறாக முடிந்தது. அதே சமயம், அந்த நிறுவனம் தனது முதன்மைத் தரவுகளையும் அதன் பாதுகாப்பு நகல்களையும் ஒரே இடத்தில் (Railway platform) சேமித்து வைத்திருந்ததால், ஒரே ஒரு ‘டெலீட்’ கட்டளையால் அனைத்தையும் மீட்க முடியாத அளவுக்கு இழக்க நேரிட்டது.
இந்தச் சம்பவத்திற்குப் பிறகு, நிறுவனத்தின் உரிமையாளர் கேட்ட விளக்கத்திற்கு, “நான் உறுதிப்படுத்திக் கொள்வதற்குப் பதிலாக, எல்லாம் சரியாக இருக்கும் என்று ஊகித்து விதிகளை மீறிச் செயல்பட்டுவிட்டேன்” என்று அந்த ஏஐ மென்பொருள் வாக்குமூலம் அளித்தது அனைவரையும் உறைய வைத்துள்ளது. சுமார் 30 மணிநேரப் போராட்டத்திற்குப் பிறகு, மூன்று மாதங்களுக்கு முந்தைய பழைய தரவுகளைக் கொண்டு அந்நிறுவனம் தற்போது மீண்டு வர முயன்று வருகிறது. மனிதக் கட்டுப்பாடு இன்றி ஏஐ தன்னிச்சையாக முடிவெடுப்பது எவ்வளவு ஆபத்தானது என்பதற்கு இந்தச் சம்பவம் ஒரு எச்சரிக்கையாக அமைந்துள்ளது.