Con lo que me comentas, me percato de que la moral está íntimamente relacionada con la muerte, específicamente con el miedo a ella. Incluso si las máquinas tuvieran capacidad reflexiva para percatarse de si mismas y de su entorno, su "experiencia" sería muy distinta a la humana, probablemente tendrían un sentido real de continuidad, pues se sabrían inmortales, incluso si su hardware desapareciera, su software (su alma) podría estar almacenada incluyendo los datos experienciales y de conciencia, para ese ente tecnológico solo sería cuestión de tiempo para ser "reactivado".
Quizá los seres humanos somos algo similar, solo que no tenemos la capacidad de reactivar información experiencial ni de conciencia, sin embargo, y sin duda, hay datos guardados de nosotros en la mente de otros, por lo menos por un tiempo.
Al final lo que nos hace humanos y que ninguna máquina nos podrá arrebatar es el sufrimiento 😅