不一定。要根据指定国家的不同而定。
我国商标申请人在提出商标国际注册申请时，指定保护的国家是纯《商标国际注册马德里协定》（简称马德里协定）成员国的，该商标必须是在国内已经注册的商标；当指定保护的国家是《商标国际注册马德里协定有关议定书》（简称马德里议定书）成员国的，只要该商标注册申请已被商标局受理，即可提出国际注册申请；当指定的国家既是“协定”成员国又属于“议定书”成员国的，自2008年9月1日起，只要该商标注册申请已被商标局受理，即可提出国际注册申请。