5. EMPIRI
5.1.3 Trusselaktører
Sobre as últimas duas questões da pesquisa, primeiro investigamos qual era o Figura 28 - Validação do reconhecimento das expressões emocionais
f eliz neutro triste exultante surpreso f rustrado contente medo 0 10 20 30 40 50 60 70 80 90 100 % ERRO % ACERTO
nível de influência dos agentes emocionais das arquiteturas em estudo sobre uma população escolhida para os experimentos, a qual foi dividida em grupos para que pudéssemos comparar os resultados. Então, os resultados da experiência subjetiva, que os participantes tiveram pela interação com os agentes implementados das arquiteturas BDIE e EBDI, são apresentados na tabela 19 e em seguida no gráfico da figura 29 abaixo.
A partir dos resultados acima, comparando as médias dos grupos 2 e 3, podemos verificar que não há evidências suficientes para afirmarmos que uma arquitetura ofereceu melhores resultados do que a outra. Pois enquanto a arquitetura BDIE obteve os melhores índices para as métricas Interesse, Realismo, Naturalidade nas reações emocionais,
Inteligência, Agradabilidade, Animação, Realidade do comportamento e Simpatia, a
arquitetura EBDI obteve índices maiores nas demais métricas: Redução de Frustração,
Carinho percebido, Confiança, Ajuda percebida e Cooperação. Além disso, com exceção da
métrica Inteligência, não houve diferenças significativas entre os valores de ambas arquiteturas (figura 29).
Figura 29 - Gráfico do resultado da experiência subjetiva dos usuários com agentes emocionais
Cooperação Simpatia Ajuda percebida Animação Agradabilidade Confiança Carinho percebido Redução de Frustração Inteligência Naturalidade nas reações emocionais Realidade do comportamento Interesse
0,0000 0,5000 1,0000 1,5000 2,0000 2,5000 3,0000 3,5000
BDIE EBDI
Tabela 19- Resultado da experiência subjetiva dos usuários com os agentes emocionais
Arquitetura Grupo Cooperação Simpatia Animação Agradabilidade Confiança Inteligência Interesse BDIE Grupo 2.1 1,5000 3,2500 1,7500 3,2500 4,0000 2,7500 3,5000 2,5000 2,7500 2,7500 2,7500 3,2500 Grupo 2.2 1,7500 3,0000 1,2500 2,5000 3,2500 1,5000 2,0000 2,0000 2,5000 2,5000 2,5000 2,5000 Grupo 2.3 2,7500 3,2500 3,0000 2,7500 3,0000 2,7500 3,0000 2,5000 3,7500 3,0000 3,2500 3,5000 média do grupo 2 2,0000 3,1667 2,0000 2,8333 3,4167 2,3333 2,8333 2,3333 3,0000 2,7500 2,8333 3,0833 variância 0,4375 0,0208 0,8125 0,1458 0,2708 0,5208 0,5833 0,0833 0,4375 0,0625 0,1458 0,2708 EBDI Grupo 3.1 2,0000 3,0000 2,7500 2,2500 3,5000 3,0000 3,5000 2,7500 1,5000 2,5000 3,0000 3,5000 Grupo 3.2 3,0000 3,7500 3,0000 3,2500 3,2500 2,7500 2,7500 3,7500 2,7500 2,7500 2,5000 3,0000 Grupo 3.3 2,2500 2,2500 2,0000 2,5000 2,5000 2,0000 2,5000 1,2500 1,2500 1,7500 2,0000 2,2500 média do grupo 3 2,4167 3,0000 2,5833 2,6667 3,0833 2,5833 2,9167 2,5833 1,8333 2,3333 2,5000 2,9167 variância 0,2708 0,5625 0,2708 0,2708 0,2708 0,2708 0,2708 1,5833 0,6458 0,2708 0,2500 0,3958 Ajuda percebida Carinho percebido Redução de Frustração Naturalidade nas reações emocionais Realidade do comportamento
Por outro lado, para tentar responder a segunda questão do segundo objetivo de nossa pesquisa, que verifica se as arquiteturas de agentes com emoções podem influenciar o desempenho dos usuários positivamente em um jogo de computador. Na tabela 20, é apresentado o resultado do desempenho dos grupos de participantes no jogo Campo Minado. Os valores em vermelho na tabela indicam onde o desempenho com agentes foi pior do que sem agentes emocionais, que pelas métricas número de tentativas e tempo médio quanto maior for o valor, pior é o resultado.
Analisando os dados da tabela acima, nas linhas “média grupo 2” e “média
grupo 3”, colunas “COM AGENTES” e “SEM AGENTES”, podemos notar que os usuários
que jogaram sob a influência do agente implementado da arquitetura BDIE obtiveram uma leve melhora no desempenho do tempo médio quando comparado às partidas jogadas sem a presença do agente emocional. Já as pessoas que jogaram sob influência do agente da arquitetura EBDI, tiveram uma perda de performance expressiva em relação às partidas jogadas sem agente emocional presente. Os resultados dos quatro grupos 2.1, 2.2, 3.1 e 3.2 confirmaram a hipótese de que a ordem das jogadas sem e depois com agentes emocionais, ou vice-versa, não influenciaram nos resultados dos experimentos.
Por último, analisamos como foi o desempenho dos jogadores que experimentaram a influência dos agentes emocionais em relação aos que jogaram sem a presença de agentes. Pela tabela 21, observa-se que apenas o tempo médio do grupo EBDI no nível fácil, e a média de tentativas do grupo BDIE no nível médio obtiveram desempenho pior
Tabela 20 - Resultado do desempenho dos grupos de participantes no jogo Campo Minado SEM AGENTES COM AGENTES
NÍVEL FÁCIL NÍVEL MÉDIO NÍVEL FÁCIL NÍVEL MÉDIO arquitetura grupo NA Grupo 1 4,0833 82,2500 20,5833 98,1667 - - - - BDIE Grupo 2.1 3,2500 86,5000 15,2500 85,2500 1,7500 61,2500 30,7500 51,5000 Grupo 2.2 1,0000 36,7500 14,7500 84,0000 2,0000 34,2500 12,2500 58,2500 Grupo 2.3 - - - - 3,5000 58,5000 53,0000 54,2500 média grupo 2 2,1250 61,6250 15,0000 84,6250 2,4167 51,3333 32,0000 54,6667 variância 2,5313 1237,5313 0,1250 0,7813 0,8958 220,7708 416,3125 11,5208 EBDI Grupo 3.1 1,2500 41,0000 5,0000 79,2500 3,5000 92,5000 11,5000 59,0000 Grupo 3.2 1,0000 31,0000 6,7500 90,0000 2,0000 76,0000 16,2500 105,7500 Grupo 3.3 - - - - 3,2500 78,7500 10,2500 100,2500 média grupo 3 1,1250 36,0000 5,8750 84,6250 2,9167 82,4167 12,6667 88,3333 variância 0,0313 50,0000 1,5313 57,7813 0,6458 78,1458 10,0208 652,8958 média tentativas tempo médio média tentativas tempo médio média tentativas tempo médio média tentativas tempo médio
que o grupo 1, que não tiveram interação com agentes emocionais. Ambos valores estão destacados em vermelho na tabela abaixo.
5.3. Considerações Finais
Analisando o quadro comparativo apresentado na tabela 16, observa-se que a arquitetura de agente emocional que alcançou a melhor classificação geral nos atributos de qualidade foi a DETT de Parunak et al. (2006), seguida pela BDIE de Hernández et al. (2004), e a pior classificada foi a Emotional-BDI de Pereira et al. (2005), seguida pela EBDI de Jiang (2007).
Através dos resultados dos experimentos, a fim de avaliar o nível de influência dos agentes emocionais sobre a experiência subjetiva dos usuários, observamos que não é possível afirmar dentre as arquiteturas BDIE e EBDI a que apresenta melhores valores para as métricas subjetivas, já que não houve uma predominância de uma arquitetura em relação a outra. A única métrica onde a diferença entre as arquiteturas é relevante foi a Inteligência, que segundo resultados, o agente BDIE pareceu ser mais “inteligente” que o EBDI.
Já em relação a questão que avalia se os agentes implementados a partir das arquiteturas de agentes emocionais melhoram ou pioram o desempenho dos usuários em jogos, verificamos uma melhora no desempenho dos usuários que interagiram com agente da arquitetura BDIE apenas na métrica “tempo médio”. Na métrica “número de tentativas” houve uma piora nos resultados. Beale e Creed (2009) discutiram uma possível explicação para esse comportamento, como a distração causada pelo agente quando expressava suas emoções sobre os usuários enquanto tentavam analisar as possibilidades de jogadas.
No entanto, quando comparamos os resultados dos desempenhos dos usuários que jogaram o Campo Minado na presença de um agente emocional em relação aos que jogaram sem agente presente, pudemos notar que na maioria das métricas os primeiros se
Tabela 21 - Desempenho dos jogadores com agentes e sem agentes
NÍVEL FÁCIL NÍVEL MÉDIO
grupo média tentativas tempo médio média tentativas tempo médio BDIE (média grupo 2) 2,4167 51,3333 32,0000 54,6667 EBDI (média grupo 3) 2,9167 82,4167 12,6667 88,3333 SEM AGENTES (grupo 1) 4,0833 82,2500 20,5833 98,1667
saíram melhor do que os últimos. Os estudos de Okonkwo et al. (2001) mostraram que o uso de expressões faciais em agentes emocionais melhoram a concentração e a motivação dos usuários, que acreditamos também ser a explicação para os altos índices nos resultados das métricas subjetivas Interesse, Agradabilidade e Simpatia.
O comportamento desses dois tipos de agentes na aplicação do jogo, por ser um cenário muito simples com pouca variedade de estímulos, visivelmente não apresentou grandes diferenças. Porém na simulação da aplicação Javagotchi, é possível notar diferenças de resposta nas expressões emocionais. Acredita-se que a sobreposição das emoções primárias pelas secundárias na arquitetura EBDI seja o responsável por esse resultado. Os valores mais altos obtidos pela arquitetura BDIE sobre a EBDI nas métricas Realidade do comportamento e a Naturalidade nas reações emocionais reforçam essa ideia.
Nos experimentos, as métricas subjetivas Interesse, Agradabilidade e Simpatia, se destacaram dentre as demais com valores próximos do máximo, que podem ser interpretadas como uma consequência positiva da influência das emoções simuladas nos agentes sobre a experiência subjetiva dos usuários.
Na questão da influência positiva das arquiteturas sobre o desempenho dos usuários, apesar de só observarmos uma melhora na métrica “tempo decorrido” para a arquitetura BDIE, na comparação entre os grupos de usuários que jogaram a versão do
Campo Minado com agentes emocionais e os que jogaram a versão sem agentes, o primeiro
grupo foi quem obteve o melhor desempenho. Por isso, acreditamos que a versão com agentes emocionais tenha melhorado a concentração e a motivação dos jogadores o que foi evidenciado pelos altos índices das três métricas citadas acima. Entre as duas arquiteturas, BDIE e EBDI, a primeira proporcionou os resultados de melhor performance dos usuários.
Capítulo 6
Considerações Finais
Para o desenvolvimento de qualquer sistema que envolva agentes com emoções, é imprescindível a avaliação da qualidade da arquitetura dos agentes, antes mesmo da implementação, pois a arquitetura tem um grande impacto sobre a qualidade do sistema como um todo. Também é fundamental que se avalie em detalhe o impacto que as emoções podem ter nas interações entre os usuários e os agentes emocionais implementados.
Nesta pesquisa, abordamos o problema da falta de metodologias de avaliação de arquiteturas de agentes com emoções, e por isso propomos uma metodologia de avaliação, baseada em um modelo de métricas, que foram definidas a partir de dois objetivos fundamentais para se avaliar arquiteturas: avaliar os atributos de qualidade e avaliar o potencial de uma arquitetura sobre a experiência subjetiva das pessoas que interagem com o agente emocional.
Visto que ainda há uma carência de metodologias na área de pesquisas sobre a avaliação de arquiteturas de agentes com emoções, esta pesquisa oferece uma opção de metodologia para projetistas de arquiteturas de agentes emocionais avaliarem suas próprias arquiteturas, e desenvolvedores de aplicações com agentes emocionais, que poderão escolher uma arquitetura que possua as características desejadas.
Além da metodologia proposta, também mostramos com detalhes resultados de experimentos utilizando a nossa metodologia para avaliar cinco arquiteturas de agentes com emoções: Camurri e Coglio (1998), BDIE (Hernández et al., 2004), Emotional-BDI (Pereira, 2005), DETT (Parunak et al., 2006) e EBDI (Jiang, 2007).
Sobre a avaliação dos atributos de qualidade, a arquitetura que apresentou a maior extensibilidade foi a Emotional-BDI, a de maior modularidade foi a DETT, e a de menor complexidade foi a Camurri e Coglio. Considerando todas as métricas dos atributos de qualidade, a arquitetura que alcançou o melhor resultado geral foi a DETT seguida pela BDIE. Os piores resultados foram da Emotional-BDI seguida pela EBDI.
agentes emocionais implementados, pelos resultados obtidos não houve diferenças significativas entre as arquiteturas BDIE e EBDI, que foram as duas escolhidas para serem implementadas. No entanto, pelos resultados encontrados, na métrica Inteligência, a arquitetura BDIE superou a EBDI em quase 40%.
Pela utilização da metodologia nos experimentos, a partir dos resultados obtidos na avaliação das arquiteturas BDIE e EBDI, pode-se deduzir que a arquitetura BDIE é preferível sobre a EBDI, pelo menos no domínio de jogos de computador, já que apresentou um projeto arquitetural de mais atributos de qualidade, conseguiu uma influência positiva sobre a performance de usuários do jogo, e ainda apresentou índices mais altos na maioria das métricas sobre a experiência subjetiva dos usuários.
A implementação de mais de uma aplicação, independente do domínio, implica em aumento do trabalho para realizar a avaliação da experiência subjetiva dos usuários. Porém o benefício deve ser considerado, pois permitirá aos participantes dos experimentos ter mais oportunidades de interagirem com o agente emocional, aumentando assim a confiabilidade de suas opiniões a respeito daquele agente com que interagiu.
Consideramos também que as aplicações implementadas em nossos experimentos proporcionaram às arquiteturas um comportamento mais reativo. Contudo, essa escolha de aplicações simples e reativas foi por motivos de simplicidade nos experimentos, pois as implementações não eram o foco principal deste trabalho, e sim mostrar o uso da metodologia em sua totalidade.
6.1. Trabalhos Futuros
Esta metodologia representa um esforço na contribuição das pesquisas da área de arquitetura de agentes com emoções, e ainda demanda trabalhos futuros para aprimorá-la. Alguns pontos de melhorias poderiam ser:
• oferecer valores de referência para as métricas, onde projetistas de
arquiteturas de agentes com emoções pudessem se basear para construir suas arquiteturas.
• a adoção de outras métricas incluindo as que favoreçam a avaliação
• a disponibilização das aplicações e questionários de forma on-line na
Internet para que muito mais participantes pudessem participar dos
experimentos.
Além disso, pesquisas adicionais poderiam avaliar os resultados da experiência subjetiva, fazendo variar os modelos emocionais empregados no componente emocional das arquiteturas, ou ainda implementar aplicações em outros domínios de aplicação diferentes dos utilizados neste trabalho.
Referências
ALECHINA, N; LOGAN, B. (2007a). Formal Evaluation of Agent Architectures. Evaluating Architectures for Intelligence: Papers from the 2007 AAAI Workshop (pp. 1-4). ______. 2007b. A logic of agent programs. In Proceedings of the Twenty-Second National Conference on Artificial Intelligence (AAAI 2007). AAAI Press.
BARTNECK, C. (2002). eMuu - an embodied emotional character for the ambient intelligent home. Unpublished Ph.D. thesis, Eindhoven University of Technology, Eindhoven.
BARTNECK, C. 2003. Interacting with an embodied emotional character. In: Proceedings of the 2003 International Conference on Designing Pleasurable Products and Interfaces. ACM Press, Pittsburgh, USA, pp. 55–60.
BASILI, V. R.; ROMBACH, H. D. The TAME Project: Towards Improvement-Oriented Software Environments. IEEE Transactions on Software Engineering, vol. 14, no. 6, pp. 758-773, June 1988.
BASS, L.; CLEMENTS, P.; KAZMAN, R. Software Architecture in Practice, Addison Wesley, 1998.
BATES, J. 1994. The role of emotions in believable agents. Communications of the ACM 37 (7), 122–125.
BEALE, R.; CREED, C. 2009. Affective interaction: How emotional agents affect users. Int. J. Hum.-Comput. Stud. 67, 9 (September 2009), 755-776.
BENGTSSON, P. O. Towards Maintainability Metrics on Software Architecture: An Adaptation of Object Oriented Metrics. Proc. First Nordic Workshop Software Architecture (NOSA '98), Aug. 1998.
BERRY, D.;BUTLER, L. T.; DE ROSIS, F. 2005. Evaluating a realistic agent in an advice- giving task. International Journal of Human–Computer Studies 63 (3), 304–327.
BICKMORE, T.; PICARD, R., 2005. Establishing and maintaining long-term human– computer relationships. ACM Transactions on Computer–Human Interaction (TOCHI) 12 (2), 293–327.
BRATMAN, M.E. Intention, Plans, and Practical Reason. Harvard University Press, Cambridge, MA, 1987.
BRAVE, S.; NASS, C.; HUTCHINSON, K. 2005. Computers that care: investigating the effects of orientation of emotion exhibited by an embodied computer agent. International Journal of Human–Computer Studies 62 (2), 161–178.
BREAZEAL, C. 2002. Designing Sociable Robots. The MIT Press, Cambridge, MA.
BREAZEAL, C. 2003. Emotion and sociable humanoid robots. Int. J. Hum.-Comput. Stud. 59, 1-2 (Jul. 2003), 119-155.
BRUECKNER, S. Return from the Ant: Synthetic Ecosystems for Manufacturing Control. Thesis at Humboldt University Berlin, Department of Computer Science, 2000. BURLESON, W.; PICARD, R.; 2007. Gender-specific approaches to developing emotionally intelligent learning companions. Intelligent Systems 22(4), 62–69.
CAMURRI, A.; COGLIO, A. (1998) An Architecture for Emotional Agents, IEEE Multimedia, Oct-Dec 1998, p. 24-33, IEEE CS Press, 1998.
CANAMERO, L. 2001. Building emotional artifacts in social worlds:challenges and perspectives. Paper presented at the Proceedings of Emotional and Intelligent II:The Tangled Knot of Social Cognition, November 2–4, North Falmouth, MA.
CICERI, R.; BALZAROTTI, S. (2008). From Signals to Emotions: Applying Emotion Models to HM Affective Interactions, Affective Computing, Jimmy Or (Ed.), ISBN: 978-3- 902613-23-3.
CRANE E.; PETER C. A Working Definition for HCI Specific Emotion Research. Workshop on Engaging with Emotions: The Role of Emotion in HCI. British Computer Society HCI 2006. London, England, September 2006.
DAMASIO, A. R. 1994. Descartes’ Error: Emotion, Reason, and the Human Brain. Putnam Pub Group.
DEHN, D.; VANMULKEN, S., 2000. The impact of animated interface agents: a review of empirical research. International Journal of Human–Computer Studies 52(1), 1–22.
DOBRICA, L.; NIEMELA, E. A survey on software architecture analysis methods. Software Engineering, IEEE Transactions on , vol.28, no.7, pp. 638- 653, Jul 2002. doi: 10.1109/TSE.2002.1019479.
DUENAS, J. C.; OLIVEIRA, W. L.; PUENTE, J. A. 1998. A Software Architecture Evaluation Model. In Proceedings of the Second International ESPRIT ARES Workshop on Development and Evolution of Software Architectures for Product Families, Frank van der Linden (Ed.). Springer-Verlag, London, UK, 148-157.
EKMAN, P. (1992). An argument for basic emotions. Cognition and Emotion, 6, 169–200. FABRI, M.; MOORE, D. J.; HOBBS, D. J. 2005. Empathy and enjoyment in instant messaging. In: Mckinnon, L., Bertlesen, O., Bryan-Kinns, N. (Eds.), Proceedings of 19th British HCI Group Annual Conference (HCI 2005), Edinburgh, UK, pp. 4–9.
GARCÍA-MAGARIÑO, I.; COSSENTINO, M.; and SEIDITA, V. 2010. A metrics suite for evaluating agent-oriented architectures. In Proceedings of the 2010 ACM Symposium on Applied Computing (SAC '10). ACM, New York, NY, USA, 912-919.
GENERO, M.; PIATTINI, M.; CALERO, C. A survey of metrics for uml class diagrams. Journal of Object Technology, 4(9):59-92, 2005.
GEORGEFF, M.; LANSKY, A. (1987). Reactive reasoning and planning. In Proceedings of the Sixth National Conference on Artificial Intelligence (AAAI-87), pages 677-682, Seattle, WA.
GONG, L. 2007. Is happy better than sad even if they are both non-adaptive? Effects of emotional expressions of talking–head interface agents. International Journal of Human– Computer Studies 65 (3), 183–191.
GRATCH, J.; MARSELLA, S. 2004. A domain-independent framework for modeling emotion. Journal of Cognitive Systems Research 5 (4), 269–306.
GROLLEMAN, J.; VAN DIJK, B.; NIJOLT, A.; VAN EMST, A. 2006. Break the habit! Designing an e-therapy intervention using a virtual coach aid of smoking cessation. In: Ijsselsteijn,W., De Kort, Y., Van Den Hoven, E. (Eds.), Persuasive Technology: First International Conference on Persuasive Technology for Human Well-Being. Springer, Eindhoven, Netherlands, pp. 133–141.
HANKS, S.; POLLACK, M.; COHEN, P. (1993). Benchmarks, Testbeds, Controlled Experimentation, and the Design of Agent Architectures, AI magazine 14(4): 17-42, MIT press.
HAYES-ROTH, B. 1991. Evaluation of integrated agent architectures. SIGART Bull. 2, 4 (July 1991), 82-84.
HAYES-ROTH, B.; VAN GENT, R. 1997. Story-Making with Improvisational Puppets. Proceedings of the First International Conference on Autonomous Agents, pp. 1–7.
HAYES-ROTH, B.; BALL, G.; LISETTI, C.; PICARD, R. W.; STERN, A. 1997. Panel on affect and emotion in the user interface. Proceedings of the Third International Conference on Intelligent User Interfaces (IUI’98), pp. 91–94.
HERNÁNDEZ, D. et al. BDIE: a BDI like Architecture with Emotional Capabilities. AAAI Spring Symposium, 2004.
HEXMOOR, H.; LAFARY, M.; TROSEN, M., 1999. Towards Empirical Evaluation of Agent Architecture Qualities, Agent Theories, Architectures, and Languages (ATAL-99), Orlando, Florida.
IEEE. Standard for a Software Quality Metrics Methodology. In IEEE Standard for a Software Quality Metrics Methodology (1998).
ILACHINSKI, A. Artificial War: Multiagent-based Simulation of Combat. Singapore, World Scientific, 2004.
ISBISTER, K.; DOYLE, P. (2002). Design and Evaluation of Embodied Conversational Agents: A Proposed Taxonomy. In Proc. of the AA- MAS02 Workshop on Embodied Conversational Agents: Lets Specify and Compare Them!, Bologna, Italy.
ISBISTER, K., 2006. Better Game Characters by Design: A Psychological Approach. Morgan Kaufmann.
JENNINGS, N. R. (2000) On agent-base software engineering. Artificial Intelligence, 117, 277-296.
JIANG, H.; VIDAL, J.M.; HUHNS, M.N. (2007). EBDI: An Architecture for Emotional Agents. In: Proc. of the 6th Int. Joint Conf. on Autonomous Agents and Multi-Agent Systems,
AAMAS'07. ACM Press, pp. 38-40.
KAZMAN, R. et al. The Architecture Tradeoff Analysis Method. In proceedings of 4th Int’l Conference on Engineering of Complex Computer Systems (ICECCS98), Aug. 98.
KAZMAN, R. et al. SAAM: A Method for Analyzing the Properties of Software Architectures. Proc. 16th Int'l Conf. Software Eng., pp. 81-90, 1994.
KURLANDER, D.; SKELLY, T.; SALESIN, D. 1996. Comic chat. Proceedings of SIGGRAPH’96: International Conference on Computer Graphics and Interactive Techniques, pp. 225–236.
LEE, S.K.; HWANG, C.S. Architecture modeling and evaluation for design of agent- based system. In Proceedings of Journal of Systems and Software. 2004, 195-208.
LESTER, J. C.; TOWNS, S. G.; CALLAWAY, C. B.; VOERMAN, J. L.; FITZGERALD, P. J. 2000. Deictic and emotive communication in animated pedagogical agents. In: Cassell, J., Sullivan, J., Prevost, S., Churchill, E. (Eds.), Embodied Conversational Agents. MIT Press, Cambridge, MA, pp. 123–154.
LUNG, C. et al. An Approach to Software Architecture Analysis for Evolution and Reusability. Proc. CASCON '97, Nov. 1997.
MALDONADO, H.; PICARD, A.; HAYES-ROTH, B. 1998. Tigrito: a high affect virtual toy. Extended Abstracts of CHI’98: Conference on Human Factors in Computing Systems. MALDONADO, H.; LEE, J. R.; BRAVE, S.; NASS, C.; NAKAJIMA, H.; YAMADA, R.; IWAMURA, K.; MORISHIMA, Y. 2005. We learn better together: enhancing eLearning with emotional characters. In: Koschmann, T., Suthers, D., Chan, T. W. (Eds.), Computer Supported Collaborative Learning 2005: The Next 10 Years!. Lawrence Erlbaum Associates, Mahwah, NJ, pp. 408–417.
MAZZOTTA, I.; DE ROSIS, F. 2006. Artifices for persuading to improve eating habits. In: AAAI Spring Symposium on ‘‘Argumentation for consumers of health care’’. AAAI Press,
Stanford, USA. Disponível em:
<http://www.di.uniba.it/intint/people/papers/SS0601MazzottaI.pdf>. Acesso em: 16 jun. 2011.
MCCALL, J.; RICHARDS, P.; WALTERS, G. Factors in Software Quality (Vol. 1, 2 and 3). Technical report, Nat'l Tech. Information Service, Springfield, Va. NTIS AD-AO49-014, 015, 055, Nov. 1977.
NASS, C.; PICARD, R. W.; WARWICK, K.; BREAZEAL, C. 2002. Panel: future interfaces: social and emotional. Extended Abstracts of CHI’02: Conference on Human Factors in Computer Systems, pp. 698–699.
NORLING, E. Folk psychology for human modelling: Extending the bdi paradigm. In AAMAS, pages 202–209. IEEE Computer Society, 2004.
NORMAN, D. 2004. Emotional Design: Why We Love (or Hate) Everyday Things. Basic Books, New York, NY.
OKONKWO, C.; VASSILEVA, J. 2001. Affective pedagogical agents and user persuasion. In: Stephanidis, C.(Ed.), Proceedings of the 4th International Conference on Universal Access in Human–Computer Interaction. Springer, Beijing, China, pp.5–10.
ORTONY, A.; CLORE, G. L; COLLINS, A. The cognitive structure of emotions. Cambridge, UK, Cambridge University Press, 1988.
PADGHAM , L.; TAYLOR, G. A system for modelling agents having emotion and personality. In PRICAI Workshop on Intelligent Agent Systems, pages 59–71, 1996.
PADGHAM, L.; WINIKOFF, M. 2002. Prometheus: A Methodology for Developing Intelligent Agents. Proceedings of the the Third International Workshop on Agent-Oriented Software Engineering, at AAMAS'02.
PADGHAM, L.; LAMBRIX, P. Formalisations of capabilities for bdi-agents. Autonomous Agents and Multi-Agent Systems (10) (2005) 249–271.
PARUNAK, V. D. et al. 2006. A model of emotions for situated agents. In Proceedings of the Fifth international Joint Conference on Autonomous Agents and Multiagent Systems (Hakodate, Japan, May 08 - 12, 2006). AAMAS '06. ACM, New York, NY, 993-995.
PEREIRA, D. et al. Towards an architecture for emotional bdi agents. In EPIA '05: Proceedings of 12th Portuguese Conference on Artificial Intelligence, pages 40-47. Springer,
2005.
PICARD, R. W.; VYZAS, E.; HEALEY, J. 2001. Toward machine emotional intelligence: Analysis of affective physiological state. IEEE Transactions Pattern Analysis and Machine Intelligence, 23, 10, 1185-1191.
PLUTCHIK, R. (1980). Emotion: A psychoevolutionary synthesis. New York: Harper &