Поскольку машины становятся умнее, они вполне способны стать участниками команды в паре с человеком.
Но для повышения уровня доверия необходимо, чтобы автономная система могла трезво оценить свой уровень компетентности в реально складывающихся условиях и сообщить об этом человеку или участникам коллектива.
Сегодня это невозможно, уверены в DARPA, либо реализовано в самом зачаточном состоянии.
Для наделения автономных систем способностью трезвой самооценки DARPA запускает программу Competency-Aware Machine Learning (CAML). Уже из названия программы понятно, что агентство ищет решения в области машинного обучения и искусственного интеллекта. В программу входит не только моделирование и разработка алгоритмов поведения автономных систем, но также разработка интерфейса взаимодействия человека и машины.
В качестве примера автономной системы с возможностью самостоятельной оценки компетентности руководитель проекта CAML приводит следующую ситуацию. При заказе автономного такси ночью в плохую погоду клиент получает ответ от двух автомобилей, один из которых сообщает о 1000 успешных поездках в ночь и под дождём, в ходе которых система автомобиля с точностью 90 % отделяла живого человека от неодушевлённых препятствий. Другой автомобиль заявил о 99 % точности в сходных ситуациях, но он побывал в таких условиях только 100 раз. Тем самым клиент может сам сделать вывод и выбрать тот автомобиль, который покажется ему более опытным для поездки в сложных погодных условиях.
В конечном итоге знание человека об оперативном состоянии и готовности автономной системы выполнить определённую работу с прогнозируемым результатом повысит эффективность взаимодействия и приведёт к максимально согласованным действиям.
Источник: news.finance.ua
