Учёный-информатик, один из пионеров искусственного интеллекта Джеффри Хинтон, в апреле покинул пост вице-президента Google.
Как пишут зарубежные СМИ, по словам Хинтона, он пошёл на такой шаг, чтобы предупредить человечество об опасностях ИИ.
Исследователь обеспокоен тем, что Google отказывается от своих прежних ограничений в отношении публичных выпусков ИИ, пытаясь конкурировать с ChatGPT, Bing и аналогичными моделями.
Хинтон допускает, что в ближайшем будущем генеративный ИИ может спровоцировать волну дезинформации. “Вы больше не будете знать, что является правдой”, — отметил он.
Также Хинтона волнует проблема замещения рабочих мест с помощью ИИ.
Кроме того, учёный обеспокоен возможностью создания полностью автономного оружия и тенденцией моделей ИИ демонстрировать неконтролируемое поведение на основе обучающих данных.
Хинтон говорит, что его позиция начала меняться в прошлом году, когда Google, OpenAI и другие компании начали создавать системы искусственного интеллекта, которые, по его мнению, иногда превосходят человеческий интеллект. По его словам. ИИ быстро развился всего за последние пять лет, и “ужасно”, что может произойти в следующие пять лет.
Главный научный сотрудник Google Джефф Дин ответил, что компания по-прежнему придерживается “ответственного подхода” и следит за “возникающими рисками”.
Хинтон посвятил свою карьеру изучению нейронных сетей и наиболее известен разработкой система распознавания объектов в 2012 году. Google купила стартап Хинтона DNNresearch в 2013 году.
В марте глава SpaceX Илон Маск, соучредитель Apple Стив Возняк, филантроп Эндрю Янг и ещё около тысячи исследователей искусственного интеллекта написали открытое письмо, в котором призвали “немедленно приостановить” обучение систем ИИ, “более мощных, чем GPT-4”. В письме говорится, что системы искусственного интеллекта с “человеко-конкурентным интеллектом” могут нести “серьёзные риски для общества и человечества”. В нём содержится призыв к лабораториям приостановить обучение на шесть месяцев.
Отметим, что IBM приостановила поиск сотрудников для бэк-офиса и планирует заменить 7,8 тыс. вакансий чат-ботами на базе ИИ.
Инструменты ИИ продемонстрировали способности автоматизировать обслуживание клиентов, писать тексты и генерировать код. Многие наблюдатели обеспокоены тем, что подобные решения могут разрушить рынок труда. План Кришны представляет одну из самых масштабных кадровых стратегий, которую помогут обеспечить новые технологии.
Генеральный директор корпорации Арвинд Кришна возглавляет IBM с 2020 года. При нём корпорация продала подразделения Kyndryl и Watson Health. Сейчас IBM рассматривает возможность избавиться от своего метеорологического подразделения.