git remote -v donne bien git@github.com:gilles-th/arranger.ly.git comme adresse de origin ?
Tu as bien une clé SSH privée dans ~/.ssh/id_quelquechose et la partie publique ~/.ssh/id_quelquechose.pub de la clé est bien enregistrée dans cette page de tes préférences GitHub ?
Tu peux aussi probablement résoudre très facilement le problème en passant à HTTPS au lieu de SSH pour communiquer avec GitHub, en faisant git remote set-url origin https://github.com/gilles-th/arranger.ly.git, mais alors tu devras taper ton mot de passe GitHub à chaque git push.