这是不一定的，还要分具体情况。有些可能就是在看守所，有些甚至连看守所都不用进。
我从事法律实务工作10多年了，我来说说这个问题。
你所提问的问题中有一个前提，就是已经判完刑了，那么就意味着已经构成犯罪，那么在这个前提下，我们逐一捋一捋。
根据刑法的规定，我国的刑法分为主刑和附加刑，主刑包括死刑、无期徒刑、有期徒刑、拘役、管制，附加刑包括罚金、没收财产、驱逐出境和剥夺政治权利。
在刑罚的具体执行上，又包括2种比较特殊的执行方式，缓刑和暂予监外执行。
接下来就分类说一下：
这种在现实生活中还是比较少的，其中最为常见的也就是单处罚金了。既然只是罚金，那么肯定是没有必要进监狱，也没有必要进看守所了，只需要把相应的罚金交上去就行了。
另外一种相对比较常见的，就是单处驱逐出境，主要是针对一些违法犯罪比较轻微的外国人实施的。
这三种情况有一个共同点，就是需要进行社区矫正，也就是在相应的考验期或者执行期内，要听从当地社区矫正机关，主要是司法所的安排。
但是三种情况又是不一样的。
管制是一种刑罚，就是直接给判处管制多长时间的。管制的刑期为三个月以上、二年以下。主要针对的是犯罪情节比较轻的一些犯罪了。
缓刑是一种特殊的执行方式，主要针对的是判处三年以下有期徒刑或者拘役，同时具备犯罪情节较轻、有悔罪表现、没有再犯罪风险、宣告缓刑对居住的社区没有重大不良影响的犯罪分子。
缓刑要设定一定的考验期，考验期内如果没有违法犯罪行为、而且没有被发现漏罪，那么原判刑期即不再进行。缓刑考验期的期间为原判刑罚以上、5年以下。对于判处拘役的，考验期最低也需要在两个月以上。
暂予监外执行是另外一种比较特殊的执行刑罚执行方式，针对的是 以下三种犯罪分子：
- （一）有严重疾病需要保外就医的
- （二）怀孕或者正在哺乳自己婴儿的妇女
- （三）生活不能自理，适用暂予监外执行不致危害社会的
暂予监外执行的时间是计入刑期的，而且是1天折抵1天。
这种情况是没有必要去监狱的，对于判处拘役的人来说，因为刑期比较短，拘役最多就是6个月，那么所有的时间都是在看守所服刑的。
对于被判处死刑的，是在经过最高法院核准以后，直接由看守所拉到刑场去执行死刑的。由于死刑只是针对犯罪情节特别恶劣的犯罪分子，也就没有再改造的必要了，自然也就也就没有必要去监狱了。
对于被判处无期徒刑的，是肯定需要去监狱的，这个是没什么说的了。
对于被判处有期徒刑的，再需要看人民法院下执行的时候、剩余的刑期。
如果剩余刑期不足三个月，是需要继续留在看守所的，只有超出三个月的人才会到监狱去。这主要也是为了维护一个稳定，毕竟到一个监狱、一个新的环境，还需要一段时间的适应。剩余刑期太短的话，还没等适应了就释放回家了，完全没有意义。