By any chance
ひょっとして、もしかして

 
Do you speak Japanese by any chance? 
ひょっとして日本語話す?

Did you live in Japan by any chance?
ひょっとして日本住んでた?