Той се използва за откриване на измама при писане на есета
Учителите в САЩ използват нов инструмент за откриване на AI. Това се налага в опит да хванат учениците си докато използват инструменти като ChatGPT, за да мамят в клас.
Оказва се, че инструментът не е много добър в целта, за която е проектиран. Това вероятно ще доведе до неправомерно обвинение на ученици, че са използвали AI инструменти за есета и задачи.
Връзка с интернет
Всичко, от което студентите се нуждаят е връзка с интернет. Откакто AI chatbots се появиха на сцената, те продължават да се подобряват. За сравнение, инструментите, които са в състояние да разграничават генерирания от AI текст и този написан от хора, са много по-назад.
Това е огромен проблем без налично решение, който поставя учителите и учениците в несигурно положение.
Тестове за оценка
Бяха направени тестове на инструмента за откриване на AI на Turnitin. Това се случва с помощта на петима ученици от гимназия. От 16 проби, които включват есета, написани от хора, генерирани от изкуствен интелект и смесени източници, инструментът е грешен в повече от половината случаи.
Накратко, програмата вероятно не трябва да се използва от учителите. Тя не е достатъчно достоверна, за да бъде отправено обвинение към учениците. Въпреки това Turnitin твърди, че детекторът е точен 98%.
Компанията изрично посочва, че резултатите от нейния инструмент не трябва да се използват за търсене на подобен вид измама, но е малко вероятно това да спре всеки учител.
Да решим дилемата
Turnitin и други компании, работещи върху AI детектори, очевидно имат пред себе си предизвикателство, когато става въпрос за крайно становище. Търси се решение, как точно трябва да се използват подобни инструменти.
Работата на тези компании е да създадат правилна информация за учителя, който от своя страна трябва да бъде обучен как да я използва.
AI детекторът на Turnitin не е единственият инструмент, който не успява да се справи с предизвикателството. Дори програмата за откриване на AI на OpenAI не получи перфектната оценка, когато й бяха предоставени смесица от текстове.
Инструментът лесно успява да идентифицира всичките десет материала, които са написани от човек, но само четири от десетте генерирани от ChatGPT бяха открити. Един от тях дори е бил класифициран, като малко вероятно генериран от AI.
Пред какво сме изправени?
Ненадеждните инструменти за откриване на AI ще бъдат огромен проблем за учениците в бъдеще. Трудно е да се намери точен начин за идентифициране на измама, освен ако учителите не познават отблизо стила на писане на учениците.
Като се има предвид напредъкът с моделите за изкуствен интелект, проблемът няма как да не се забележи. Такива като GPT-4 и други нововъзникващи конкуренти като Google Bard се борят за място сред чат ботове с изкуствен интелект. Способностите им вероятно ще се подобряват с времето.
Това означава, че ще трябва да измислим съвсем различно решение за учителите, за да си възвърнат доверието на своите ученици, докато границите между чатботовете и хората продължават да се размиват.
