被单位口头辞退又肯给辞退证明或者解除合同证明怎么办？

本人今年3月进的公司，签订了一份为期两年的合同，11月11日被领导口头通知辞退，(并无任何正当理由，只是含糊其辞说经领导研究决定辞退我，)让我办理离职手续，但又不给出具辞退证明或者终止合同的证明，只给了一份辞职申请书，我并不是自动辞职，所以不肯签，后继续找领导要辞退证明，然后没了下文，也不给分配工作，也不给办理离职手续。(合同一式两份，但都在公司方，没有给我，不过我有每个月的工作日志和其他一些证据能证明我在公司的工作经历，并且现在手头的工作也没有和他们交接，并持有部门领导口头辞退时的录音。)我现在是否可以去劳动监察部门投诉或者申请劳动仲裁？但只有口头辞退的录音没有书面的辞退证明能否证明他们单方面解除劳动合同？如果不能现在应该怎么办？