Repositorio UVigo

Coordinating human and agent behaviour in collective risk scenarios

Investigo Repository

Coordinating human and agent behaviour in collective risk scenarios

Fernándes Domingos, Elías
 
DATE : 2021-01-22
UNIVERSAL IDENTIFIER : http://hdl.handle.net/11093/1713
UNESCO SUBJECT : 6307.07 Tecnología y Cambio Social ; 3325 Tecnología de las Telecomunicaciones
DOCUMENT TYPE : doctoralThesis

ABSTRACT :

Collective hunting, antibiotic abuse, vaccination hesitancy, climate action or even coordinating the population in order to comply to the covid19 regulations are some of the several examples of collective endeavours that entail a collective risk. These complex scenarios correspond to social dilemmas that are subject to many uncertainties, ranging from the actual risk of the catastrophe occurring, to the amount of collective effort required to avoid it, or even the time available to take the required measures. Additionally, such dilemmas are no longer constituted solely of human-human interactions, but also, increasingly often, of human-agent interactions through socio-technical systems already deployed at different levels of society. This adds a new layer of complexity which is still mostly unexplored. In this thesis, we perform and analyse a series of behavioural economic experiments in a collective risk dilemma (CRD), which abstract the previously listed scenarios where in participants are confronted with a choice: contributing sufficiently over several rounds to achieve ... [+]
Collective hunting, antibiotic abuse, vaccination hesitancy, climate action or even coordinating the population in order to comply to the covid19 regulations are some of the several examples of collective endeavours that entail a collective risk. These complex scenarios correspond to social dilemmas that are subject to many uncertainties, ranging from the actual risk of the catastrophe occurring, to the amount of collective effort required to avoid it, or even the time available to take the required measures. Additionally, such dilemmas are no longer constituted solely of human-human interactions, but also, increasingly often, of human-agent interactions through socio-technical systems already deployed at different levels of society. This adds a new layer of complexity which is still mostly unexplored. In this thesis, we perform and analyse a series of behavioural economic experiments in a collective risk dilemma (CRD), which abstract the previously listed scenarios where in participants are confronted with a choice: contributing sufficiently over several rounds to achieve a collective target that avoids the catastrophe, or defect and assume that others will make sufficient contributions, and thus, aiming to maximise one’s personal gains. We use this framework to gain new insights on how uncertainties affect the outcome of collective risk scenarios and the behaviour of its participants, as well as how these results are affected by the presence of (artificial) autonomous agents. Previous behavioural experiments explored the effect of uncertainties about the impact (or risk) of a catastrophe, as well as the placement of the collective target. They found that people only tend to contribute to avoid the disaster once they perceive the risk to be high, yet even in this case, cooperation collapses once the placement of the collective target is uncertain. In this thesis, we investigated for the first time how uncertainties about the amount of time available to avoid the catastrophe affect the previously observed results. Firstly, we designed an experimental study which contrasts, under high risk, two levels of such timing uncertainty to the case where the available time is known exactly. We found that low levels of timing uncertainty do not produce any significant change in the rate of group success in avoiding the catastrophe, yet significantly increases earlier contributions. Moreover, in both timing uncertainty treatments, successful players adopted a reciprocal response. These results indicate that under timing uncertainty peers should respond early and in kind to avoid the consequences of a collective disaster. This outcome, as well as the results for other forms of uncertainty, are confirmed through a population-based learning model. Secondly, we studied how the presence of autonomous agents influenced participants’ behaviour in a CRD with a fixed number of rounds. We designed three experiments in which, respectively, participants have to delegate, customise or interact in a hybrid human-agent group. Delegation and customization considerably increased group success. Yet, participants were reticent to give away agency and would still prefer to make their own contributions throughout the experiment. Nevertheless, the ability to customise or personalize the agent, increased the willingness to delegate. Finally, while there was no significant increase in group success in the hybrid experiment, there was a change in behaviour of human participants, which on average made higher contributions earlier in the game. However, most human participants considered that agents acted more selfishly, contributing less than humans, even though this was not true. These results highlight the relevant interplay between customization and social expectations towards autonomous agents and should be taken into account when designing hybrid socio-technical systems. [-]
 
La caza colectiva durante la prehistoria, el rechazo a las vacunas, la acción contra el cambio climático, e incluso la coordinación de la población para el control de pandemias, como el COVID19, son algunos de los muchos ejemplos de problemas sociales que conllevan un riesgo colectivo. Estos complejos escenarios se corresponden con dilemas sociales que están sujetos a muchas incertidumbres, que van desde el riesgo real de que ocurra una catástrofe, hasta la cantidad de esfuerzo colectivo necesaria para evitarla, o incluso el tiempo disponible para adoptar las medidas requeridas. Además, estos dilemas no están constituidos únicamente por interacciones entre personas, sino también, cada vez con mayor frecuencia, por interacciones entre humanos y agentes artificiales a través de sistemas sociotecnológicos ya desplegados en diferentes niveles de la sociedad. Esto añade una nueva capa de complejidad que todavía está, en su mayor parte, inexplorada. En esta tesis, realizamos y analizamos una serie de experimentos económicos conductuales en el contexto del dilema de riesgo colectivo ... [+]
La caza colectiva durante la prehistoria, el rechazo a las vacunas, la acción contra el cambio climático, e incluso la coordinación de la población para el control de pandemias, como el COVID19, son algunos de los muchos ejemplos de problemas sociales que conllevan un riesgo colectivo. Estos complejos escenarios se corresponden con dilemas sociales que están sujetos a muchas incertidumbres, que van desde el riesgo real de que ocurra una catástrofe, hasta la cantidad de esfuerzo colectivo necesaria para evitarla, o incluso el tiempo disponible para adoptar las medidas requeridas. Además, estos dilemas no están constituidos únicamente por interacciones entre personas, sino también, cada vez con mayor frecuencia, por interacciones entre humanos y agentes artificiales a través de sistemas sociotecnológicos ya desplegados en diferentes niveles de la sociedad. Esto añade una nueva capa de complejidad que todavía está, en su mayor parte, inexplorada. En esta tesis, realizamos y analizamos una serie de experimentos económicos conductuales en el contexto del dilema de riesgo colectivo (DRC). Este dilema abstrae los escenarios enumerados anteriormente, confrontando a los participantes con la siguiente elección: contribuir lo suficiente, a través de varias rondas, para alcanzar el objetivo colectivo de evitar la catástrofe, o suponer que los demás contribuirán lo suficiente, y por tanto, aspirar a maximizar las ganancias personales. Utilizamos este dilema como marco para obtener nuevos conocimientos sobre la forma en que diferentes incertidumbres afectan al comportamiento de los participantes en escenarios de riesgo colectivo, tanto cuando las interacciones se dan solamente entre humanos, como cuando agentes (artificiales) autónomos están presentes. Experimentos previos exploraron el efecto de las incertidumbres sobre el impacto (o el riesgo) de una catástrofe, así como la cantidad de contribuciones necesaria para evitarla. Estos estudios indican que las personas sólo tienden a contribuir a evitar el desastre una vez que perciben que el riesgo es alto, pero incluso en este caso, la cooperación se derrumba si hay incertidumbre sobre la cantidad de contribuciones necesaria. En esta tesis, investigamos por primera vez cómo la incertidumbres sobre la cantidad de tiempo disponible, o plazo, para evitar la catástrofe afecta a los resultados observados anteriormente. En primer lugar, hemos diseñado un estudio experimental que contrasta, para el caso en el que el riesgo de catástrofe es alto, la situación en que el plazo para evitarla es conocido con dos niveles de incertidumbre temporal. Descubrimos que bajos niveles de incertidumbre temporal no producen ningún cambio significativo en la tasa de éxito del grupo para evitar la catástrofe, pero aumentan significativamente las contribuciones en la fase inicial del experimento. Además, en ambos tratamientos de incertidumbre temporal, los participantes en grupos que tuvieron éxito en evitar la catástrofe, adoptaron una respuesta recíproca. Estos resultados indican que, en virtud de la incertidumbre temporal, los miembros del grupo deben responder pronto y con actitud recíproca para evitar las consecuencias de un desastre colectivo. Confirmamos este resultado, así como los resultados experimentales para las formas de incertidumbre descritas anteriormente, mediante un modelo de aprendizaje basado en una población de agentes. En segundo lugar, estudiamos cómo la presencia de agentes autónomos influye en el comportamiento de los participantes en un DRC con un número fijo de rondas. Diseñamos tres experimentos en los que, respectivamente, los participantes tienen que delegar, personalizar o interactuar en un grupo híbrido humano-agente. La delegación y la personalización aumentaron considerablemente el éxito del grupo. Sin embargo, los participantes se muestran reacios a delegar sus acciones, y prefieren hacer sus propias contribuciones a lo largo del experimento. No obstante, la capacidad de adaptar o personalizar el agente, aumenta la disposición a delegar. Por último, si bien no hubo un aumento significativo en la fracción de grupos que evitan la catástrofe en el experimento híbrido, sí hubo un cambio en el comportamiento de los participantes humanos. Estos, en promedio, hicieron mayores contribuciones en las primeras etapas del juego. Además, la mayoría de los participantes humanos consideran que los agentes actúan de manera más egoísta, contribuyendo menos que los humanos, aunque esto no fuera cierto. Estos resultados ponen de relieve la importancia de alcanzar un término medio entre la capacidad de personalización y las expectativas sociales respecto a los agentes autónomos, algo a tener en cuenta al diseñar sistemas socio-tecnológicos. [-]

Show full item record



Files in this item

Bloqueado
Attribution-NonCommercial-NoDerivs 3.0 Spain Except where otherwise noted, this item's license is described as Attribution-NonCommercial-NoDerivs 3.0 Spain
2013 Universidade de Vigo, Todos los derechos reservados
Calidad So9001