Э

Мир энциклопедий

encyclopedia.ru

В английской Википедии создали проект по борьбе с недостоверными порождениями искусственного интеллекта

RSS
В английской Википедии создали проект по борьбе с недостоверными порождениями искусственного интеллекта, Комментарии к новости
 
Мы уже говорили о важности контроля за «порождениями искусственного интеллекта». Упомянутый проект борется с недостоверными порождениями. Из приведенных в статье примеров видно, с какой легкостью формируются участки параллельной реальности, и как трудно будет выявлять эти «фантомы». Мне в этой теме кажутся важными вопросы о том, через сколько этапов верификации должны пройти текст  или изображение, и где в проверку должен включаться человек, чтобы результат мог быть признан достоверным? :?:
 
Эта история прекрасно показывает, почему нам по-прежнему нужны традиционные «авторизованные» энциклопедии — такие как «Британника» или БРЭ. Ведь сама проблема стала возможной благодаря тому, что пополнять Википедию может любой, а это означает отсутствие ответственности. В своё время такая свобода дала Википедии огромный импульс в развитии и сделала ее лидером по объему. В «народности» Википедии ее сила и в этом же оказалась ее слабость.
 
Цитата
Александр Красногорский написал:
Ведь сама проблема стала возможной благодаря тому, что пополнять Википедию может любой, а это означает отсутствие ответственности.
Когда человек сам дополняет статьи Википедии или пишет новые, это ещё не проблема, ведь всегда найдутся люди, которые смогут исправить чужие глупости. А вот искусственный интеллект действительно способен стать проблемой: простые люди далеко не всегда могут написать для энциклопедии грамотный связный текст, состоящий из нескольких абзацев, зато ИИ его легко напишет. Вот прочитала я про ту самую упомянутую османскую крепость — а ведь отлично написано. И веришь, что всё это правда, что такая крепость есть. Но выясняется, что её на самом деле не существует. И ведь ИИ такую статью может написать за минуту, а простому человеку понадобилось бы несколько часов — он бы просто пожалел тратить время впустую. Вот и задумываешься ненароком: от ИИ больше пользы или вреда? :?:
 
ИИ — уже часть нашей жизни. И нам ещё долго предстоит учиться отличать сгенерированные видео, картинки, тексты от реальных. На данной стадии развития цивилизации не очень хорошо, что при помощи ИИ создаются энциклопедические труды. В самой Википедии и без ИИ было много ляпов. Появление и существование сгенерированных статей и изображений может полностью лишить Википедию справочной и научной ценности. Хорошо, что хоть где-то об этом задумались.
 
Искусственный интеллект возник совсем недавно. Он молодой и хулиганит как ребёнок. Ученные постоянно работают над его усовершенствованием, и потому остается только надеяться, что его научат находить им же созданные фейки, обращать внимание людей на недостоверную, порождённую им информацию или даже самостоятельно удалять всё ненужное.
Читают тему (гостей: 2)