Э

Мир энциклопедий

encyclopedia.ru

«Рувики» внедряют технологии искусственного интеллекта в механизм обновления

RSS
«Рувики» внедряют технологии искусственного интеллекта в механизм обновления, Комментарии к новости
 
Цитата
Финальный контроль остаётся в руках ведущих экспертов
Вроде логично, но остаются сомнения.
Не будет ли ИИ или кто там за ним манипулировать «финальными контролёрами» и подталкивать к нужным решениям? :)
 
И снова палка о двух концах.
Цитата
«Рувики» ежемесячно обновляют более тысячи волонтёров, которые вносят порядка 8-10 тысяч правок. Но что такое волонтёры, пишущие энциклопедию? — Это человеческий фактор.
А как насчет «компьютерного фактора»? Я, например, сталкиваюсь с ним каждый день. То есть, а кто будет проверять «ИИ»? Ответ, в принципе, хорошо известен программистам (да и не только), которым «посчастливилось» переложить некоторые функции в своей работе на плечи «ИИ»: эксперт ли или волонтер — не суть, но что-то путевое (действительно разумное) может получится только от работы в связке человек — ИИ. А то как бы не получилось так, что исправлять, точнее недоумевая обнаруживать ошибки придется лишь конечному пользователю.
 
Цитата
arthy написал:
А то как бы не получилось так, что исправлять, точнее недоумевая обнаруживать ошибки придется лишь конечному пользователю.
Ладно ещё, если конечный пользователь обнаружит ошибки в статьях сетевой энциклопедии, которые были написаны или отредактированы с помощью искусственного интеллекта. А если не обнаружит и примет написанное за чистую монету? Подумала вдруг о ядовитых грибах. Ну, допустим, ИИ ошибётся при написании или редактировании такой статьи, а контролирующий это эксперт просто случайно не заметит ошибку. А ведь некоторые ошибки могут стоить крайне дорого.
 
Цитата
Евгений Шапиро написал:
Цитата
Финальный контроль остаётся в руках ведущих экспертов
Вроде логично, но остаются сомнения.
Не будет ли ИИ или кто там за ним манипулировать «финальными контролёрами» и подталкивать к нужным решениям? :)
ИИ можно манипулировать и очень неплохо, причем ничего сложного тут нет. Он на массиве данных, а вкинуть дезу в массив не так уж и сложно.
Цитата
arthy написал:
А то как бы не получилось так, что исправлять, точнее недоумевая обнаруживать ошибки придется лишь конечному пользователю.
Конечный потребитель все съест, это уже проверено и без ИИ.
Цитата
Лилия Тумина написала:
А если не обнаружит и примет написанное за чистую монету? Подумала вдруг о ядовитых грибах. Ну, допустим, ИИ ошибётся при написании или редактировании такой статьи, а контролирующий это эксперт просто случайно не заметит ошибку. А ведь некоторые ошибки могут стоить крайне дорого.
Так он и не примет, вы слишком хорошо думаете об обывателе: многие из них «жи-ши» пишут с буквой «Ы» и все нормально, даже не кашляют. ИИ (особенно в настоящее время) — это очень манипулятивный инструмент. Я тут попробовал сделать светотехнический проект при помощи ИИ. Использовал 3 системы. «Кандинский», ChatGPT и «ДипСик». В пробных вариантах. В итоге, процентов на 80 требуется переработка. В общем, не вышла халява, пришлось все переделывать руками (лапками). :)  
Читают тему (гостей: 1)