В недавнем исследовании ученые из Государственного университета Джорджии сравнили способность большой языковой модели (БЯМ) ChatGPT-4 и людей оценивать моральные дилеммы. Участникам был предложен модифицированный тест Тьюринга с 10 сценариями, варьирующимися от явно аморальных до условных социальных ситуаций.
Удивительно, но респонденты в среднем предпочли моральные рассуждения, сгенерированные ChatGPT-4, охарактеризовав их как более добродетельные, умные, справедливые и надежные по сравнению с человеческими ответами.
Несмотря на впечатляющие результаты ChatGPT-4, ученые предостерегают от безоговорочного доверия к моральным суждениям ИИ. Способность рассуждать об этике не гарантирует ее понимания на глубинном уровне. Исследователи призывают детально изучить, как большие языковые модели интерпретируют мораль, прежде чем полагаться на их советы в этой сфере.
Это открытие вызывает множество вопросов об этических рамках использования ИИ и о том, как мы определяем моральные ценности в эпоху искусственного интеллекта.
Читайте больше новостей в телеграм-канале AIUI!
