法律分析：行政处罚500元，即意味你曾经有违法行为被行政机关发现并处以罚款处罚，这就是违法记录，所以行政机关不应当给你开具无违法犯罪证明。
法律依据：《中华人民共和国行政处罚法》 第三十七条 实施行政处罚，适用违法行为发生时的法律、法规、规章的规定。但是，作出行政处罚决定时，法律、法规、规章已被修改或者废止，且新的规定处罚较轻或者不认为是违法的，适用新的规定。