Anthropic zacznie traktować uporczywe, nieuzasadnione obrażanie Claude’a jako naruszenie zasad. Jedni twierdzą, że taka reguła może pomóc szkolić bezpieczniejszą sztuczną inteligencję, inni uważają, że zaciera granicę między maszynami a ludźmi. „Przypisywanie im ludzkiej empatii to jedna z najniebezpieczniejszych rzeczy, jakie moglibyśmy zrobić” — napisał jeden z prezesów firm technologicznych.










