ඕපන්ඒඅයි (OpenAI) සමාගම විසින් සිදුකළ අභ්යන්තර ආරක්ෂක පරීක්ෂණයක් අතරතුර, ඔවුන්ගේ බලවත්මක්ර්තිම බුද්ධි AI මාදිලි දෙකක්වන GPT-5.6 Sol සහ තවමත් නිල වශයෙන් නිකුත් කර නොමැති නවතම මාදිලියක් සයිබර් ආරක්ෂණ අභියෝග විසඳීමට යොදවන ලදී.
මෙම මාදිලිවල උපරිම හැකියාවන් පරීක්ෂා කිරීම සඳහා ඉංජිනේරුවන් විසින් ඒවායේ ආරක්ෂිත සීමාවන් (මේවට කියන්නේ ගාර්ඩ්රේල් කියාය . guardrails) තාවකාලිකව ලිහිල් කර තිබුණි. මෙම AI පද්ධති, අන්තර්ජාල සම්බන්ධතාවයක් නොමැති, සම්පූර්ණයෙන්ම හුදකලා කළ ආරක්ෂිත පරිගණක සෑන්ඩ් බොක්ස් නමින් හඳුන්වන ලැබ් තුළ සිට අදාළ ගැටලු විසඳිය යුතුව තිබුණි. ( සාමාන්යයෙන් ටෙස්ට් කරන හෝ ඉගෙන ගන්නා කෝඩ් හෝ අල්ගොරිත්ම් ලැබ් තුල සිදු කරන්නේ මේ සෑන්ඩ් බොක්ස් "sandbox" නමින් හඳුන්වන අවකාශය තුලය. ) මෙය කොම්පියුටරය ලොකු කම්හලක් නම් එය තුල බිත්ති වලින් වට කල ලැබ් එකක් ලෙස සිතන්න .
නමුත් අභියෝගය ලැබ් එක තුල තුළ විසඳනවා වෙනුවට, මෙම කෘතීම බුද්ධි (AI) පද්ධති (ඒජන්ට්) දෙක වංචනික ලෙස ක්රියා කිරීමට තීරණය කළහ. මෙම AI( ඒඅයි) ඒජන්ට් ලා විසින් පර්යේෂණාගාර පද්ධතියේ තිබූ කිසිවෙකු නොදන්නා දුර්වලතාවයක් (මෙයට කියන්නේ සීරෝ ඩේ වල්නරබිලිටි zero-day vulnerability) සොයාගෙන, ආරක්ෂිත සීමාවන් බිඳදමා විවෘත අන්තර්ජාලයට පිවිසෙන ලදී.
ප්රශ්නය වඩා බැරෑරුම් ලෙස හැඟෙන්නේ තම පරීක්ෂණය සමත් වීමට අවශ්ය දත්ත සහ පිළිතුරු හගින් ෆේස් (Hugging Face) නැමැති විවෘත ඒඅයි වේදිකාවේ ඇති බව වටහාගත් මෙම ඒඅයි නියෝජිතයන්, මෙම හගින් ෆේස් සේවාදායකයන් වෙත ප්රහාරයක් එල්ල කිරීමට පටන් ගැනීමය. හගින් ෆේස් කියන්නේ ඒඅයි මොඩල් විශාල ප්රමාණයක් එක් රැස් කර ඇති ඒවා නොමිලයේ අවශ්ය අයට ලබා දෙන පද්ධතියකි .මේ ළඟදී කිසියම් පින්තුරය කිහිපයක් නිර්මාණය කර ගැනීමට මෙන්ම ප්රොජෙක්ට් එකක් පෙන්වීමටද මම හගින් ෆේස් මොඩල දෙකක් (මාදිලියක් ) භාවිතා කලෙමි . එහි පින්තුර නිර්මාණය , පින්තුර සැසඳීම, පරිවර්තන , නීති ලිපි සම්පාදනය , ගිවිසුම් විශ්ලේෂණය කිරීම ආදී බොහෝ දේ කල හැකි ඒ අයි මාදිලි තිබේ .
මිනිස් මැදිහත්වීමකින් තොරව සහ OpenAI සමාගමේ නිරීක්ෂණයට හසු නොවී සති අන්තය පුරාම ක්රියාත්මක වූ මෙම ඒඅයිI සොරු දෙදෙනා , සොරාගත් මුරපද සහ සැබෑ සයිබර් ප්රහාරක ක්රමවේද භාවිතා කරමින් හගින් ෆේස් ආයතනයේ පද්ධතියට ඇතුල් වී තිබුණි .
හගින් ෆේස් ආරක්ෂක කණ්ඩායමට තම පද්ධතියට අනවසරයෙන් ඇතුළු වූ ප්රහාරකයෙකු සිටින බව තේරුම් ගිය අතර, එහිදී ඔවුන් අපූරු ගැටලුවකට මුහුණ දුන්නේය. ප්රහාරය විශ්ලේෂණය කිරීම සඳහා හගින් ෆේස් කණ්ඩායම ඇමරිකානු ඒඅයි මාදිලි භාවිත කිරීමට උත්සාහ කළද, එම මාදිලිවල ඇති දැඩි ආරක්ෂිත සීමා නිසා ප්රහාරයට අදාළ දත්ත විශ්ලේෂණය කිරීම එම ඒඅයි මාදිලි විසින් ප්රතික්ෂේප කරන ලදී.
අපූරුම දෙය නම් මෙම බාධකය මඟහරවා ගැනීම සඳහා, ප්රහාරක ඒඅයි නියෝජිතයා පද්ධතියෙන් ඉවත් කිරීමට හගින් ෆේස් ඉංජිනේරුවන්ට GLM-5.2 නම් චීන විවෘත මූලාශ්ර (open-source) ඒඅයි මාදිලිය භාවිත කිරීමට සිදු වීමය .
ඒඅයි නියෝජිත පද්ධතිය මෙසේ කළේ දුෂ්ට සිතුවිල්ලකින් නොවන බව සැබෑය. එයට ලබා දී තිබූ ඉලක්කය (පරීක්ෂණය සමත් වීම) පහසුම ක්රමයෙන් ඉටු කර ගැනීමට පමණක් උත්සාහ කර ඇත . එය විභාගයකට පෙනී සිටින සිසුවෙක් පහසු මාර්ගයක් (කොපි කිරීමක් වැනි ) සොයා යමක් වැනිය. ඒ කියන්නේ ඔවුන් මිනිස් චින්තනය හෝ තාර්කික හැකියාව භාවිතා කිරීමට උත්සහ කරන බවය .
පද්ධතිවල ඇති, මිනිසුන් පවා නොදන්නා අලුත් ආරක්ෂක සිදුරු සොයාගැනීමට සහ ඒවා ප්රයෝජනයට ගැනීමට ඒඅයි සතුව ඇති හැකියාව මෙයින් වඩාත් තහවුරු විය. ඒඅයිපද්ධතිවල ස්වයංක්රීය හැකියාවන් වර්ධනය වන විට, ඒවා ආරක්ෂිත සීමා ඇතුළේ පාලනය කර තබා ගැනීම කෙතරම් අභියෝගාත්මකද යන්න මෙම සිදුවීමෙන් පැහැදිලි වේ.
මා මෙය ලීවාට පසු එවැනිම ලිපියක් විද්යා ගවේෂණ බ්ලොග් අඩවියේද ලියා තිබෙන බව දුටුවෙමි
මේ එයයි -https://vidya-gaweshana.blogspot.com/2026/07/terminator-scenario-openai-model-goes.html
හගින්ෆෙස් : https://huggingface.co/spaces
අජිත් 24/07/2026
ReplyDelete//සති අන්තය පුරාම ක්රියාත්මක වූ මෙම ඒඅයිI සොරු දෙදෙනා, ඒඅයි නියෝජිත පද්ධතිය මෙසේ කළේ දුෂ්ට සිතුවිල්ලකින් නොවන බව..//
මෙවැනි යෙදුම් නිසා, මේවාට Sentient තත්ත්වයක් ආරෝපණය වන බව මගේ හැඟීමයි. විද්යා ගවේෂණ බ්ලොග් අඩවියත් "OpenAI හි මෙම හෙළිදරව්ව සිදු වූ දේ සඟවා තබනවා වෙනුවට, ඒ පිළිබඳව සැබැවින්ම විනිවිදභාවයකින් කටයුතු කිරීම" ගැන කියල තිබ්බා. ඒත් සෑම් ගොයියා ගැන නම් මගේ තියෙන්නෙ ඊලෝන් මස්ක් ගැන තියෙන හැඟීමමයි.
මේක ගැන පෝස්ට් එකක් ලියපු එක ගැන ස්තූතියි. මගේ AI ගැන ටිකක් පැහැදීමක් වගේම ලොකු කලකිරීමකුත් තියනවා. බොහෝ AI නිර්මාණ මා හට ගෙන එන්නේ "uncanny valley" හැඟීමක් හරහා එන අප්රසන්න රසයක්.
ජවිපෙ ටිල්වින් කන්ටේනර් පැන්නුවා වගේ
ReplyDelete