Wenn du keine Sozialabgaben in Deutschland zahlst, dann musst du in Frankreich zum Arzt. Aber, da ihr verheiratet seid, besteht die Möglichkeit einer Familienversicherung über deinen Mann bei seiner Krankenkasse. Da würde ich mich mal bei der Krankenkasse informieren.
Ebenfalls würde ich dir empfehlen schnellstmöglich die carte vitale zu beantragen, damit du nahtlos Arbeitslosengeld von der pole emploi bekommst.