В книге про цифровую эпистемологию Джей Адам Картер затрагивает вопрос о доверии «чёрным ящикам». Если вы не понимаете, каким образом получены некоторые данные, то можете ли вы им обоснованно доверять? Картера в первую очередь интересуют искусственные нейронные сети, но, в целом, нетрудно заметить, что не только технологии, но и буквально любой человек со своими суждениями – это для вас такой же чёрный ящик, функционирующий по каким-то загадочным принципам.
Основное напряжение здесь – соотношение эпистемической надежности и ответственности. Нетрудно в процессе использования калькулятора выяснить, что он выдает правильные ответы и, тем самым, является надежным инструментом познания. Куда труднее быть полностью ответственным за свои убеждения в том, что калькулятор все правильно посчитал. Полная эпистемическая ответственность будет подразумевать, что вы не только идентифицировали надежность калькулятора, но и реально понимаете, как он работает. Например, вам придется суметь отличить обычно функционирующий калькулятор от крипкенштейнианского, который вместо умножения осуществляет операцию «квожения».
Короче говоря, оптимизм или пессимизм по отношению к (технологическим) чёрным ящикам следует просто из того, чему мы придаем большую ценность. Поскольку Картер – оптимист, то он больше ценит надежность, однако признаёт, что недостаточно ориентироваться исключительно на неё. Он обращает внимание на отмеченное https://philpapers.org/rec/SULUFM различие между неопределённостью имплементации и неопределенностью связи. В первом случае мы не понимаем, как происходит обработка данных, а во втором случае не понимаем, как входные данные связаны с выходными.
Для иллюстрации своей мысли Салливан приводит пример с двумя нейросетями. Первая на основании изображений родинок предполагает наличие меланомы. Вторая на основании изображений лиц предполагает сексуальную ориентацию. С точки зрения разработки обе нейросети функционируют примерно одним и тем же образом, как и оказываются сравнимо надежным для конечного потребителя (кому интересно: вторая нейросеть распознавала ориентацию с точностью 91% для мужчин и 83% для женщин). Отличие лишь в степени неопределенности связи – в первом случае у нас есть множество хороших данных о том, как внешний вид родинок связан с появлением меланомы, тогда как во втором случае модель в итоге учитывает не только морфологию лица, но и степень ухоженности, как и некоторые другие культурные маркеры. Проще говоря, неправильно будет сказать, что вторая нейросеть распознает ориентацию только по лицу, так же как и точно утверждать, что она распознает именно ориентацию.
Учитывая это различие, Картер утверждает, что надежности самой по себе недостаточно и обоснованно можно доверять лишь тем надежным чёрным ящикам, которые обладают низкой степенью неопределенности связи между входными и выходными данными. Такой подход даже по-своему синтезирует ориентацию на надежность с ориентацией на ответственность в познании. Идентифицировав надежность источника данных, который является чёрным ящиком, нам нужно обнаружить некоторый факт, исходя из которого мы могли бы утверждать, что идентифицируем эту самую надежность неслучайным образом. И оценка того, насколько вообще выходные данные связаны с тем, что было на входе, — это, как минимум, неплохой критерий.
Что забавно, люди, занимавшиеся созданием музыки, наверняка узнают в этом критерии очертания легендарного принципа «shit in, shit out».
