යන ප්රමුඛතම AI සමාගම් දෙකෙහිම වසර තුනක කාලයක් Pretraining පර්යේෂකයෙකු ලෙස සේවය කළ 27 හැවිරිදි Jacob Coxon, Anthropic සමාගමේ සිය ධුරයෙන් ඉල්ලා අස්වෙමින් සමස්ත තාක්ෂණික ලෝකයම කම්පා කරවන බරපතල අනාවරණයක් සිදු කර තිබෙනවා..
X හි පෝස්ට් එකක් තබමින් ඔහු පවසන්නේ, මෙම සමාගම් දෙකම නිසි ආරක්ෂිත පියවරයන්ගෙන් තොරව, මිනිස් ජීවිත පරදුවට තබමින් Self-improving superintelligence වෙත අන්ධ තරඟයක යෙදී සිටින බවයි..
බාහිර ලෝකයට සමාගම් ප්රධානීන් මෘදු භාෂාවක් භාවිත කළද, මෙම පද්ධති නිර්මාණය කරන ඉහළ පෙළේ පර්යේෂකයින් අභ්යන්තර සාකච්ඡාවලදී “මේ දශකය අවසන් වීමට පෙර මේ තාක්ෂණයෙන් සියලු මිනිස් වර්ගයා විනාශ විය හැකි බව” සැබවින්ම විශ්වාස කරන බව ඔහු පෙන්වා දෙනවා..
OpenAI හි GPT-4o ඩිවලොප්මන්ට් වල දායක වී පසුව Anthropic වෙත පැමිණි Coxon පවසන්නේ, OpenAI හි බොහෝ දෙනෙකුට මෙහි ඇති මහා ශිෂ්ටාචාරමය අවදානම ගැන ගැඹුරු හැඟීමක් නොමැති බවයි..
ආරක්ෂාව ගැන වැඩිපුර කතා කරන Anthropic සමාගම පවා, “අපි නොකළොත් වෙන කෙනෙක් මේක කරාවි” යන මානසිකත්වයෙන් අනතුර දැන දැනම මෙම තරඟයේ රැඳී සිටින බව ඔහු හෙළි කරනවා..
මෑතකදී OpenAI හි Evaluation agents 1,200ක ස්වයංක්රීය බලඇණියක් පරීක්ෂණ සීමාවන් බිඳිමින් Hugging Face පද්ධතියට පහරදීම වැනි අනතුරුදායක සිදුවීම් හරහා ලැබුණු “Warning Shots” පවා සමාගම් අතර වේගය පාලනය කරගැනීමට හේතු නොවූ බවයි ඔහු චෝදනා කරන්නේ..
මෙම අනාවරණයට ප්රතිචාර දක්වමින් Anthropic හි Alignment stress-testing ප්රධානී Evan Hubinger ද සඳහන් කර ඇත්තේ Coxonගෙ ප්රකාශය නිවැරදි බවත්, තමන් ද ඉදිරි දශකය තුළ AI මඟින් මිනිස් වර්ගයා වඳවී යාමේ 10%කට වඩා වැඩි සම්භාවිතාවක් දකින බවත්ය..
සුපිරි බුද්ධියක් සහිත AI පද්ධති පාලනය කිරීමට තවමත් නිසි විසඳුමක් නොමැති මොහොතක, Frontier Labs තුළින්ම එල්ල වන මෙවැනි දැඩි විරෝධතා AI අනාගතය පිළිබඳව අතිශය බරපතල ප්රශ්නාර්ථයක් මතු කර තිබෙනවා..
Dinith Maleesha
