So finally after 2 days of struggling with this configuration i found out the solution.  And so here are the steps using GlassFish 3.1.2 and OpenAM (same as the old OpenSSO, the new is Oracle not Sun so it changed).  Since im from Mexico this is in spanish, use http://translate.google.com, and im using windows.

Descargar GlassFish v3.1.2 : http://glassfish.java.net/public/downloadsindex.html

Descargar OpenAm v10.0 : http://forgerock.org/openam.html

--------------------------------------------------------------------------------------------------------------------------------------

1. Instalar GlassFish y lo pondremos en la ruta default "C:\glassfish3".  Después de instalar marcará el error de que el Update Tool no fue instalado.
2. Modificar el cfg_cache de "C:\glassfish3\.org.opensolaris,pkg" y quitar doble "//" de http://pkg.glassfish.org/v3/stable/
3. Instalar el update_tool y pkg dentro de "C:\glassfish3\bin"
4. Modificar de "C:\glassfish3\glassfish\config\asenv.bat" lo que decía "AS_JAVA" y poner "C:\Program Files\Java\jdk1.7.0_07" o el java sdk que tengas instalado.
5. Modifiqué archivo "c:\windows\system32\drivers\etc\hosts" para tomar DNS local.
              Agregué 127.0.0.1 dev.bluemethod.com

7. Correr desde windows CMD "pkg uninstall glassfish-full-profile"
8. Correr desde windows CMD "pkg uninstall metro"
9. Correr el "C:\glassfish3\glassfish\bin\asadmin.bat"
              create-domain dev.bluemethod.com
10. Correr el C:\glassfish3\glassfish\bin\asadmin.bat
              start-domain dev.bluemethod.com

11. Ingresa en tu browser a "http://dev.bluemethod.com:4848" y después a "Configurations-> server-config-> JVM settings" y cambia lo siguiente:

              a) -XX:MaxPermSize=256m
              b) -server
              c) -Xmx1024m

12. Reiniciar el servidor GlassFish

13. Ingresa en tu browser a "http://dev.bluemethod.com:4848" y después a "Aplications-> Deploy" y agrega el openam.  No debes tener ningún error.
14. Ingresa en tu browser a "dev.bluemethod.com:8080/openam" y presionar agregar configuración personalizada.

15. En el punto 4 de la configuración tiene que ser -> Almacén de datos de usuario de OpenSSO
16. Darle acceso al directorio creado "openam" dentro de tu usuario para que no sea solo lectura.

17. Seguir documentación de "http://wiki.developerforce.com/page/Single_Sign-On_with_SAML_on_Force.com" y
"http://openam.forgerock.org/openam-documentation/openam-doc-source/doc/install-guide/index.html"
18. Renombrar certificado x509 (base64) a .cer e importarlo a Windows y exportarlo como binario (.cer).
             Escribe certmgr.msc-> click a folder-> action menu-> all task-> import. Y luego exporta el archivo.
19. Configurar SSO en salesforce.
20. Buscar Control Acceso-> Nombre del Dominio-> Asuntos-> Usuario-> demo y agregar teléfono, al igual que cambiar password.
21. Modificar usuario en salesforce y agregar "Federation ID" y poner el teléfono.
22. Probar con la siguiente liga "http://dev.bluemethod.com:8080/openam/idpssoinit?NameIDFormat=urn:oasis:names:tc:SAML:2.0:nameid-
format:transient&metaAlias=/idp&spEntityID=https://saml.salesforce.com&binding=urn:oasis:names:tc:SAML:2.0:bindings:HTTP-POST"

 23. Para funcionar desde tu página llámese https://domain.my.salesforce.com , tienes que entrar a modificar el SSO settings y agregar a la URL de inicio de sesión del Proveedor de identidad la misma URL de arriba.

--------------------------------------------------------------------------------------------------------------------------------------

Please use this as a tutorial because you don't need to loose the time i did.  Thank you very much and good luck with this.

Cheers

Muchas gracias por su atención !!!