お疲れ様です。

CommandButtonをクリック時にJavaScriptでエラー判定を行う処理の例でしたらこんな感じでどうでしょうか。

Page

<apex:page Controller="SampleController">
	<apex:form id="formId" target="_blank">
		<!-- パラメータなし -->
    	<apex:actionFunction name="actionFunction1" action="{!doClick}" rerender="formId">
    		<apex:param name="parameter" value=""/>
    	</apex:actionFunction>
    	<!-- パラメータあり -->
    	<apex:actionFunction name="actionFunction2" action="{!doClick}" rerender="formId">
    		<apex:param name="parameter" value=""/>
    	</apex:actionFunction>
        <apex:pageBlock >
            <apex:commandButton value="actionFunctionから実行①" onClick="return btnClick1();" />
            &nbsp;&nbsp;
            <apex:commandButton value="actionFunctionから実行②" onClick="return btnClick2('javascriptから引数を受け取りました。');"  />
        </apex:pageBlock>
        <apex:pageMessages />
    </apex:form>
    <script>
    	// パラメータなし
	    function btnClick1() {
	    
	    	var check = 'OK';
	    	
	    	if (check == 'OK') {
	    		alert(check);
	    		actionFunction1();
	        } else {
	        	alert('NG');
	        }
	            
	        return false;
	    }
	    
	    // パラメータあり
	    function btnClick2(prm) {
	    
	    	var check = 'OK';
	    	
	    	if (check == 'OK') {
		    	alert('引数：' + prm);
		        actionFunction2(prm);
	        } else {
	        	alert('NG');
	        }
	        
	        return false;
	    }
	</script>
</apex:page>

Controller

public with sharing class SampleController {
	
	/*
	 * コンストラクタ
	 */
	public SampleController() {
		
	}
	
	/*
	 * action処理
	 */
	public void doClick() {
        String parameter = System.currentPageReference().getParameters().get('parameter');
        ApexPages.addMessage(new ApexPages.Message(ApexPages.Severity.INFO, parameter));
    }
}