ВестиAI систем који пише лажне вести је преопасан за јавност

AI систем који пише лажне вести је преопасан за јавност

Cyber World — Cyber Keyboard
Фото: Pixabay, илустрација

Непрофитна истраживачка организација која се бави вештачком интелигенцијом, OpenAI, приказала је прошле недеље резултате свог рада на новим моделима за манипулисање језиком. Њихови напори резултовали су системом GPT-2 који је трениран на интернет текстовима како би могао предвидети која ће следећа реч у њима бити употребљена. Након таквог „тренинга“ на 40 GB текстова са 8 милиона wеб страница добијен је језични модел са више од 1,5 милијарде параметара. То му сада омогућава да, уз минималне инпуте, ствара, тј. „измишља“ огромне количине уверљивог текста.

Неке примере генерисања текстова OpenAI је приказао на својим страницама. Систему су задали тек тему, неколико речи или реченица око којих је вештачка интелигенција почела да ствара остатак текста. Резултат је новински чланак довољно уверљив, смислен и природан да га је врло лако заменити за текст који је написао човек.

Системи попут овог могли би се у будућности користити као помоћ при писању или превођењу, те за боље препознавање говора или извлачење кључних информација из текстова, али у организацији OpenAI свесни су да би се он могао употријебити и за мање моралне сврхе. Лажне вести, аутоматизована израда нетачних чланака, спама или пхисхинг садржаја, те лажно представљање онлине само су неке могуће примене овог напредног AI алгоритма. Стога су у овој организацији одлучили да, иако им је у самом називу наведена „отвореност“, неће GPT-2 дати у целости на располагање јавности.

Омогућиће тек увид у његову демо варијанту, док ће одлуку о отварању кода целог система одложити за неко друго време, кад се појаве механизми заштите од вештачке интелигенције и потенцијалне штете коју она може у овом облику проузроковати.

Kако је суоснивач OpenAI иницијативе био и Elon Musk, многи су га одмах повезали са овом причом. Али, он је овога викенда поновио како је још пре више од године дана напустио управљачке позиције у тој организацији. Због великих обавеза у Тесли и SpaceX-у, али и неслагања са неким одлукама, сада је одлучио и потпуно напустити OpenAI и дистанцирати се од њиховог рада.

 

Извор: itvesti.info

Сви медији који преузму текст, фотографије или видео, дужни су да наведу извор – Тимочка (timocka.rs). Уколико преузимају комплетан текст и фотографије, већи део текста, или је пренета интегрална вест, у обавези су да наведу извор и поставе линк ка тој вести.

Društvene mreže

24,801ПратилацаЛајкуј
4,396ПратилацаЗапрати
1,264ПратилацаЗапрати
222ПратилацаБаци суб