Meu caro, pelo que percebo está tentando programar em Java e chamar as ferramentas contidas no ArcToolbox, estou correto?

Nunca li nada sobre o assunto em Java, mas em .NET é possível compilar as assinaturas das toolboxes e utilizá-las como se estivessemos utilizando-as em Python.

Não tenho experiência com o desenvolvimento de aplicações ESRI com java, sei que é possível, mas nunca tentei nem brincar. Precisa mesmo ser em Java?

Neste momento estou a desenvolver um projeto onde é necessário, a utilização da API java da ESRI. Tenho instalado no meu computador, a versão ARCGIS DESKTOP 10, onde já instalei ARCGIS develoment kit.

Neste momento tenho um simulador a a criar um file raster grid. O meu objetivo é transformar este file, para ser mostrado num browser, por exemplo em google maps, ou através de GeoServer.

O meu objectivo é obter uma conversão de ASCII raster to Raster, e posteriormente, Raster to Polygon e uma projeção para o sistema de coordenadas que irá ser utilizado.

Ao utilizar qualquer uma função da API da ESRI, obtenho sempre o seguinte erro. Já tentei procurar em blogs, já tentei utilizar bibliotecas segundo alguns blogs mas o erro permanece.

java.lang.UnsatisfiedLinkError: no ntvinv in java.library.path
at java.lang.ClassLoader.loadLibrary(ClassLoader.java:1734)
at java.lang.Runtime.loadLibrary0(Runtime.java:823)
at java.lang.System.loadLibrary(System.java:1028)
at com.esri.arcgis.interop.NativeLoader.loadLibrary(Unknown Source)
at com.esri.arcgis.system.EngineInitializer.initializeEngine(Unknown Source)

é necessário o Engine para desenvolver aplicações ou utilizar a API?

Ok, temos uma situação. Teu caso, utilizando ArcGis seria bem mais complexo, pois você teria de utilizar o ArcScene para desenvolver isto. Além disso existem rotinas e classes específicas para atualizações constantes em mapa/tela 3d.

Sugiro que estude a API do ArcObjects (estou assumindo que você possui conhecimento de programação) e tente procurar a melhor maneira de resolver seu problema. Sinto muito não poder ajudar mais, mas sem detalhes é difícil.

Existem softwares livres também que dão esta possibilidade (apenas em 2d) como o QGIS, que também é programável.