Поддерживаемая Google компания Anthropic, в которой работает помощник по искусственному интеллекту Клод , вступила в дискуссию об этичности использования новой технологии, изложив принципы, используемые для формирования ответов, предоставляемых ее платформой.

Как пишет MobileWorldLive, в блоге он объяснил, что Конституция Клода содержит элементы, взятые из Всеобщей декларации прав человека ООН, опубликованной в 1948 году, наряду с другими документами, включающими вопросы, конкретно связанные с цифровым веком.

Используемые современные документы включали Условия обслуживания Apple и информацию, опубликованную принадлежащей Google исследовательской лабораторией искусственного интеллекта DeepMind.

Придерживаемые принципы включают традиционные моральные кодексы, такие как поддержка свободы и недопущение пособничества преступности, наряду с принципами, основанными на недопущении распространения дезинформации, оскорблении или снисходительном звучании.

В документе также есть несколько пунктов, основанных на обнадеживающих ответах с учетом “незападных взглядов”.

Объясняя обоснование частей кода, Anthropic отметил: “Многие люди критиковали модели ИИ, которые обучают отражать определенную точку зрения или политическую идеологию, с которой критик обычно не согласен. С нашей точки зрения, наша долгосрочная цель состоит не в том, чтобы заставить наши системы представлять конкретную идеологию, а в том, чтобы они могли следовать заданному набору принципов”.

“Мы ожидаем, что со временем будут разработаны более масштабные социальные процессы для создания конституций ИИ”.

Компания указала, что ее правила в значительной степени являются рабочим документом, поскольку она также изучает способы “более демократичного создания руководства для Клода” и исследует настраиваемые конституции для конкретных случаев использования.

Публикация кода происходит по мере того, как платформы генеративного ИИ продолжают привлекать внимание регулирующих органов и высокопоставленных лиц , многие из которых выразили обеспокоенность по поводу потенциала технологии при неправильном обращении с учетом ее быстрого темпа развития.