OpenAI сформира нов екип, който ще постави супер интелигентния AI под контрол
В отговор на бъдещите ни нужди, OpenAI сформира изцяло нов екип. Целта на учените ще бъде да разработят начини за управление и контрол на супер интелигентни AI системи. Това се очертава, като една от модерните заплахи над човечеството.
Водещите на екипа прогнозират, че AI с интелигентност надвишаваща тази на хората, може да се появи в рамките още на това десетилетие. Не можем да приемем, че този изкуствен интелект непременно ще бъде добронамерен. Това налага изследване на методи и начини за контрол и ограничаване.
Към настоящия момент, нямаме решение за управление или контрол на потенциално опасен AI. Настоящите техники за контролиране на AI, разчитат на способността на хората да го управляват. Но те не могат надеждно да ограничават AI системи, които са много по-умни от нас.
Иновативни подходи
За да придвижим играта напред в наша полза при подчиняването на суперинтелекта, OpenAI създава нов екип. Водещите в него ще имат достъп до 20% от компютрите, които компанията е осигурила към момента. Ще се присъединят учени и инженери от предишното подразделение на OpenAI, както и изследователи от други организации в компанията. Екипът ще се стреми да разреши основни технически предизвикателства за контролиране на суперинтелигентния AI през следващите четири години.
Това ще се случи чрез изграждането на иновативен изследовател за автоматизирано подравняване на човешко ниво. Целта е да се обучат AI системи, използващи човешка обратна връзка. Така AI ще помага при оценката на други AI системи и в крайна сметка ще бъде изграден такъв, който може да прави изследвания за постигане на желаните резултати, които не излизат извън очертаните граници.
Хипотезата на OpenAI е, че AI може да постигне по-бърз и по-добър напредък в изследванията за подравняване, отколкото хората. Така AI системите ще могат да поемат все повече и повече от нашата работа и в крайна сметка да създадат, внедрят, проучат и разработят по-добри техники за контрол, отколкото имаме сега.
Изкуственият интелект ще работи заедно с хората, за да гарантира, че собствените им наследници ще са по-съгласувани с нас.
Нямаме гаранции, че който и да било метод ще е достатъчно надежден. Използването на AI за оценка има потенциала да увеличи несъответствията, пристрастията или уязвимостите. В крайна сметка може да се окаже, че най-трудните части от проблема изобщо не са свързани с инженерството.
