Одним из важнейших элементов взаимодействия с машинами является доверие, без него мы просто не будем следовать их советам. Но чрезмерное доверие к машинам чревато тем, что мы будем полагаться на них больше, чем следовало бы. В гражданской авиации и то, и другое приводило к катастрофам. Раджа Парасураман и его коллеги изучают проблемы доверия и профессиональной этики в условиях автоматизации. Джон Ли также исследует роль доверия в работе с автоматическими системами, и его статья, написанная в соавторстве с Катриной Си, очень помогла мне в работе над книгой.
Под «профессиональной этикой» здесь понимается характер взаимодействия между людьми и машинами. Одной из ключевых работ по этой теме является книга Байрона Ривза и Клиффа Насса, но советую прочесть еще и статью Парасурамана и Криса Миллера. Эта тема присутствует и в общих работах по проблемам автоматизации.
Ситуационная осведомленность в данном контексте также имеет большое значение, и здесь особого внимания заслуживают работы Мики Эндсли и его соавторов. Начните либо с двух книг Эндсли, либо с главы, написанной им в соавторстве с Дэниелом Гарландом для книги под редакцией Парасурамана и Мустафы Мулуа.
Endsley M.R. Automation and situation awareness // Automation and human performance: Theory and applications / Ed. by R. Parasuraman and M. Mouloua. Mahwah, NJ: Lawrence Erlbaum Associates, 1996. P. 163–181.
Endsley M.R., Bolte В., Jones D.G. Designing for situation awareness: An approach to user-centered design. New York: Taylor & Francis, 2003.
Endsley M.R., Garland D.J. Situation awareness: Analysis and measurement. Mahwah, NJ: Lawrence Erlbaum Associates, 2000.
Hancock P.A., Parasuraman R. Human factors and safety in the design of intelligent vehicle highway systems (IVHS) // Journal of Safety Research. 1992. № 23 (4). P. 181–198.
Lee J., Moray N. Trust, self-confidence, and operators adaptation to automation // International Journal of Human-Computer Studies. 1994. № 40 (1). P. 153–184.
Lee J.D., See K.A. Trust in automation: Designing for appropriate reliance // Human Factors. 2004. № 46 (1). P. 50–80.
Parasuraman R., Miller C. Trust and etiquette in a high– criticality automated systems. Communications of the Association for Computing Machinery. 2004. Vol. 47 (4). P. 51–55.
Automation and human performance: Theory and applications / Ed. by R. Parasuraman, M. Mouloua. Mahwah, NJ: Lawrence Erlbaum Associates, 1996.
Reeves В., Nass С.I. The media equation: How people treat computers, television, and new media like real people and places. New York: Cambridge University Press, 1996.