Apesar do sucesso, Dave e Annie resolveram acabar com a banda após cinco compactos e muitas brigas internas, em 1981. Depois de brigarem com a Logo Records, foram para a RCA e resolveram se mudar para a Alemanha, onde mais uma vez, iriam trabalhar com Conny Plank.

A partir de agora, seriam apenas os dois. Para isso, escolheram um nome diferente: Eurythmics. O nome foi tirado de uma dança grega que Annie aprendeu quando criança e Dave vendeu à RCA que o nome tinha a ver com elementos "europeus e rítmicos". Mesmo sem convencerem a gravadora, adotaram o nome.

No mesmo ano de 1981 é lançado o primeiro disco, In The Garden. Novamente produzido por Conny Plank, teve dois compactos, "Belinda" e "Never gonna cry again". O disco mostrava o Eurythmics procurando uma linguagem própria e calcada nos modelos new wave da época. O grupo promoveu "Never gonna cry again" no programa The Old Grey Whistle Test tendo o baterista do Blondie, Clem Burke, como convidado.