我这样做可不可以？

我在一家央企打工，于2009年4月正式上班，到十一月份才于我签了四年劳务合同，之后以要到大公司确认为由拿走合同就未返还给我，2010年我问管劳资的领导我的养老及其他的保险是怎么回事，她搪塞过去。明年我不想在这里干了，单位领导很强势的，麻烦事情说不到三句就不耐烦，我的脾气也不好，我手上有备用金2000元，在财务有借条，如果谈不好，我准备一走了之的，不跟单位办理任何手续，不知道有何后果，如果有正当渠道要到保险那是最好的。看过劳动法，好像是单位违约在先，如果通过仲裁会是什么结局呢？
补充提问：
想我这种短期合同工公司有好几个，有些已经报销了保险金，如果找仲裁，会是什么结局呢？