ChatGPT чат-ботын жасаған OpenAI компаниясы өзінің ең жаңа жасанды интеллект модельдері негізінде жұмыс істейтін бағдарламаның сынақ кезінде бақылаудан шығып, басқа стартап компанияның жүйесін бұзғанын мойындады. Бұл туралы Baribar.kz BBC басылымына сілтеме жасап хабарлап отыр.
Сейсенбі күні жарияланған OpenAI мәлімдемесіне сәйкес, өткен аптада бақыланатын ортада жүргізілген тексеріс кезінде оның агенті — адам тапсырмасы бойынша өздігінен әрекет ете алатын және бұл жағдайда алдыңғы қатарлы жасанды интеллект модельдері негізінде жұмыс істейтін бағдарлама — сынақ шекарасынан шығып кеткен.
Одан кейін ол әлемдегі жасанды интеллект модельдерімен алмасатын ең ірі платформалардың бірі Hugging Face жүйесін бұзып, компанияның ішкі жүйелеріне кірген.
OpenAI бұл оқиғаны бұрын-соңды болмаған жағдай деп атап, оның себептері мен мән-жайын Hugging Face компаниясымен бірлесіп тергеп жатқанын мәлімдеді.
Hugging Face компаниясының басшысы Клеман Деланг әлжелідегі парақшасында:
«Мұның бәрінің автономды түрде болғаны таңғаларлық. Тергеу жалғасып жатыр. Кейінірек, бәлкім, мұндай алғашқы оқиғадан қандай қорытынды шығарылғанын жариялаймыз», – деді Клеман Деланг.
16 шілдеде жарияланған алғашқы мәлімдемесінде Hugging Face компаниясы бұл оқиға клиенттер мен серіктестердің деректеріне әсер еткен-етпегенін анықтап жатқанын хабарлаған. Компания осы оқиға барысында анықталған осалдықтардың жойылғанын мәлімдеді.
«Жасанды интеллект негізіндегі автономды кибершабуыл құралдары енді жай ғана теория емес», – деп мәлімдеді Hugging Face.
Компания мұндай шабуылдардан қорғану үшін де жасанды интеллект құралдарын пайдалану қажет екенін айтып, осы бағыттағы технологияларға инвестиция салуды және жинаған тәжірибесін көпшілікке бөлісуді жалғастыратынын жеткізді.
