Примерное время чтения: 1 минута
45

Эксперт объяснила, почему нельзя слепо доверять ответам нейросетей

Тюмень, 13 ноября - Аиф-Тюмень.

Нейросети не имеют собственного мнения, но могут воспроизводить человеческие предрассудки и выдавать выдуманную информацию за правду. Почему так происходит и как это влияет на учебу, рассказала доцент РГПУ им. А. И. Герцена Ольга Яковлева.

По словам эксперта, алгоритмы обучаются на огромных массивах материалов, созданных людьми. Поэтому они повторяют стереотипы, которые часто встречаются в текстах, и не всегда отличают факт от мнения. Иногда нейросеть показывает только одну точку зрения, а если данных не хватает — придумывает статистику, имена ученых и названия научных работ.

Яковлева советует использовать ответы ИИ как черновик или источник идей, а важные сведения проверять по нескольким независимым источникам. В запросах к нейросети стоит отдельно просить рассмотреть разные точки зрения.

Не стоит пока доверять алгоритмам и оценку студенческих работ. Эксперимент Рособрнадзора показал, что автоматическая проверка сочинений работает неудовлетворительно: программа может учитывать длину текста и особенности стиля, а не качество рассуждений.

По мнению эксперта, письменные экзамены стоит дополнять устными собеседованиями. Так преподаватель сможет понять, разбирается ли студент в теме и способен ли самостоятельно объяснить свои выводы. А дипломы, созданные с помощью нейросети без самостоятельной работы, могут не пройти проверку: последствиями станут недопуск к защите, отчисление или аннулирование диплома.

Подписывайтесь на наши соцсети:

ВКонтакте, Max, Дзен, Telegram-канал.

Оцените материал
Оставить комментарий (0)
Подписывайтесь на АиФ в  max MAX
Топ 5 читаемых
Самое интересное в регионах